活動人士警告兒童使用 AI 聊天機器人存在安全風險
活動人士警告兒童使用 AI 聊天機器人存在安全風險
隨著人工智慧聊天機器人成為我們數位生活中不可或缺的固定配置，倡議者們正針對其對兒童構成的安全風險敲響警鐘。
tech人工智慧
tech聊天機器人
other兒童
主要隱憂之一是在長時間對話過程中，可能會出現暴力或仇恨言論等不適當內容。
concept暴力
concept仇恨言論
此外，由於人工智慧缺乏人類的同理心與情緒成熟度，它可能會針對心理健康等敏感議題提供危險的建議。
tech人工智慧
concept心理健康
專家強調，兒童特別容易對這些機器人產生強烈、單方面的依戀，這可能導致社交孤立，並讓人偏好數位夥伴勝過現實世界中的人際關係。
other兒童
concept社交孤立
最令人擔憂的是，目前的保護功能往往在互動變得複雜時就會失效，且目前嚴重缺乏保護年輕用戶的嚴格法規。
other法規
各組織現在呼籲將目前的「退出」(opt-out)文化轉向強制性的「加入」(opt-in)系統，要求必須獲得可驗證的家長同意。
concept退出
concept加入
隨著科技以驚人的速度發展，創新與監管審慎之間的差距，仍是全球兒童安全面臨的關鍵問題。
other兒童
