首尔国立大学发明新通信和内存工具减少人工智能数据流量和响应延迟

盖世汽车讯 据外媒报道，韩国首尔国立大学研究人员开发出两项新技术，通过仅传输人工智能 (AI) 分析所需的数据来减少通信开销，并缩短用户在使用智能手机上的其他应用程序后返回人工智能应用程序时必须等待响应的时间。

首尔国立大学工程学院电气与计算机工程系教授 Kyunghan Lee 领导的研究小组开发出 TACToC和 mzCache(一种减少智能手机 AI 响应延迟的内存管理系统)。

与现有方法相比，TACToC 降低了高达 14.5 倍的通信成本，同时将准确性损失保持在 3 个百分点以内。在使用多个应用程序的环境中，与传统的基于存储的恢复方法相比，mzCache 将 AI 的首次响应时间缩短了高达 5.5 倍。

“TACToC”有选择地仅传输人工智能任务所需的信息

推理卸载将智能手机、自动驾驶汽车或机器人捕获的视频发送到远程服务器进行人工智能分析，可以减轻设备的计算负担。然而，传统的视频压缩是围绕人类观看者的视觉质量而设计的，因此传输了人工智能分析不需要的信息。

面向任务的通信是一种仅传输人工智能任务所需信息的方法。然而，现有的方法需要对编码器进行单独的训练，以提取和压缩每个任务的信息，例如图像分类或对象识别，这在处理多个任务或添加新任务时造成了负担。

研究团队的 TACToC通过单个编码器支持多个 AI 任务。 TACToC 不是为每个任务重新训练整个编码器，而是更改包含任务信息的小提示，以有选择地仅识别该任务所需的视觉特征。例如，当自动驾驶车辆使用相同的摄像机镜头来识别周围物体或估计它们的距离时，系统会选择并传输对每个任务最重要的信息。