歐盟《兒童法》刪除讓Character.AI受青少年歡迎的核心功能

Character.AI和Replika不得記住青少年對它們說過的話。歐盟《兒童法案》——歐盟執委會提出的數位安全法規，現已公布完整立法文本——要求AI伴侶應用程式在對話結束後刪除與未成年人的所有對話記憶，除非該資料直接用於保護用戶安全。這些應用程式之所以能對數百萬青少年產生文化影響，其設計如今根據歐盟法律已被禁止。

伴侶功能的相關條款不僅止於刪除記憶。平台必須預設關閉所有18歲以下用戶的情感伴侶功能。任何模擬人際關係、培養情感依附或獎勵頻繁互動的設計元素，均明確禁止。執委會點名了這些應用程式用來留住青少年的具體機制：對話的連續性、被理解的感受、以及AI似乎對用戶生活投入的感覺。所有這些都必須移除。

該法案涵蓋的範圍遠不止AI聊天機器人。13歲以下兒童未經家長授權，不得使用社交媒體平台、線上遊戲及AI應用程式。自動播放、無限滾動以及睡眠時間的互動通知，對所有18歲以下用戶均予禁止。地理位置、麥克風存取及攝影機必須預設關閉。自行申報年齡不再符合驗證要求；平台必須整合經歐盟認證的年齡驗證系統。

Character.AI已宣布推出家長監控和單次使用時長限制，這些措施是在法案正式文本公布前，面對日益加劇的監管壓力所採取的動作。Replika承諾建立「伴侶界線」：AI會告知用戶它無法取代人際關係。規模較大的平台——Meta、Google、Snap、OpenAI——尚未發表正式公開聲明。合規分析師估計，所有這些公司都將面臨可觀的重新設計成本。Meta近期就47個美國州份指控其設計平台使兒童成癮一案，以171億美元達成和解，在新規則下面臨更大的風險。

質疑的聲音有其道理。《兒童法案》目前仍是一項提案，並非正式法律。它將進入歐洲議會與成員國之間長達數月的協商，之後才具有約束力，最終條文很可能有所變動。要在Instagram或TikTok的規模上實現真正的年齡驗證，技術上仍相當困難。將記憶刪除功能嵌入以連續性為架構的AI伴侶中，是一項比監管機構可能預期更深的工程挑戰。企業已指出，伴侶聊天機器人並非在所有實作中都會跨不同會話保留記憶，這使得禁令的實際範圍變得模糊。

對歐洲以外的讀者而言，更廣泛的背景值得關注。澳洲去年底禁止16歲以下兒童使用社交媒體。47個美國州份就兒童成癮指控與Meta達成總額171億美元的和解，且多個美國州份已有法律限制未成年人使用社交媒體。歐盟《兒童法案》是目前為止最激進的單一提案——其特別針對的不是使用權限，而是情感設計本身。

歐盟執委會於9月19日公布了完整的立法文本。議會協商將於10月展開。一旦實施，企業將有六個月的時間來識別現有帳戶中屬於15歲以下用戶的帳戶，並將其轉換為家長監控模式或予以停用。違規行為將面臨最高全球年收入6%的罰款。

標籤: AI regulation, Character.ai, European Commission, AI chatbots, children digital safety, EU Kids Act