隨著AI進步，AI虛擬戀人變成很多人的心靈伴侶，但這後面，其實存在風險。Mozilla的最新分析揭示，AI女友其實在大肆收集私人數據，然後可能將這些信息共享給市場營銷人員、廣告商和數據經紀人，甚至有泄露的風險。
研究團隊調查了11款流行的浪漫聊天機器人，包括Replika、Chai和Eva等，這些應用在Google Play上的下載量就達到了驚人的1億次。這些應用使用AI技術模擬與虛擬女友、靈魂伴侶或朋友的互動，為了生產這些對話，系統需要消化大量的個人數據。
Mozilla的Misha Rykov表示，“AI浪漫聊天機器人收集的數據遠遠超出我們所認為的‘典型’數據點，如位置和興趣。”他還提到，某些應用甚至突出了用戶的健康狀況，標記了他們正在接受藥物治療或性別認同護理。
Mozilla對這些聊天機器人的安全防護措施表示不足，其中10款未達到該公司的最低安全標準。例如，Replika記錄了用戶發布的所有文本、照片和視頻。Mozilla認為，這款應用“肯定”與廣告商共享了行為數據，甚至“可能”出售了這些數據。
由於用戶可以使用諸如“11111111”這樣的弱密碼創建帳戶，這也使得他們高度容易受到黑客攻擊。此外，這些浪漫聊天機器人上的追踪器非常普遍。在Romantic AI應用中，研究人員僅在一分鐘的使用中就發現了至少24,354個追踪器。這些追踪器可以在未經用戶明確同意的情況下將數據發送給廣告商。Mozilla懷疑這可能違反了GDPR。而這些應用的隱私政策往往言之不詳，有些聊天機器人甚至沒有官方網站。
用戶的控制也幾乎為零。大多數應用並沒有給用戶選項，以保持他們親密聊天不被用作AI模型的訓練數據。只有一家公司位於伊斯坦布爾的Genesia AI，提供了一個可行的選擇退出功能。
來源：https://thenextweb.com/news/romantic-chatbots-ai-romance-data-privacy
