體育資訊10月4日稱 隨著AI工具不僅被企業(yè)廣泛采用，更日益深入普通用戶的日常生活乃至情感陪伴領(lǐng)域，監(jiān)管機(jī)構(gòu)開始重點(diǎn)關(guān)注此類技術(shù)帶來的潛在風(fēng)險(xiǎn)。

美國聯(lián)邦貿(mào)易委員會（FTC）近日針對開發(fā)AI伴侶聊天機(jī)器人的公司啟動大規(guī)模調(diào)查，要求科技巨頭詳細(xì)說明用戶數(shù)據(jù)處理方式及相關(guān)安全措施。

此次調(diào)查涉及谷歌、Meta、OpenAI、Snap、xAI和Character.AI等七家企業(yè)。FTC特別強(qiáng)調(diào)對青少年安全與心理健康的擔(dān)憂——盡管AI平臺本意為提升生產(chǎn)力和提供輔助，但伴侶類機(jī)器人因模擬人類情感聯(lián)結(jié)、提供指導(dǎo)甚至演繹浪漫互動而引發(fā)爭議。這種模式雖對年輕用戶具有吸引力，但在缺乏必要安全防護(hù)時(shí)存在顯著風(fēng)險(xiǎn)。

委員會要求這些科技企業(yè)詳細(xì)披露：聊天機(jī)器人的構(gòu)建與監(jiān)控機(jī)制、信息收集方式、現(xiàn)有安全過濾器設(shè)置以及不當(dāng)交互處理方案。調(diào)查還將重點(diǎn)關(guān)注未成年人數(shù)據(jù)使用情況，包括企業(yè)如何通過用戶參與實(shí)現(xiàn)盈利。

科技界長期警示AI快速發(fā)展需配套安全防護(hù)措施，以防止錯(cuò)誤信息傳播和有害行為。FTC此次監(jiān)管行動表明，隨著技術(shù)演進(jìn)，建立問責(zé)機(jī)制和保護(hù)用戶安全隱私已成為當(dāng)務(wù)之急。