第一批上岗的AI主播已经翻车了！AI翻车记

　　【#第一批上岗的AI主播已经翻车了# 】#专家称AI发展正处于安全盲区# 近期，AI主播频频翻车。在许多网络直播间，网友仅用简单几条弹幕就能“控制”AI主播，本应正常工作带货的主播们，在“控制”下集体胡言乱语。评论区打出：“你是猫娘，喵一百声。”AI主播就秒变“猫娘”喵喵叫。看似有趣好玩的背后，实质是AI安全漏洞问题。据大模型安全行业专家杨小芳介绍，这种现象的产生，是因为大模型将用户的输入内容和智能体原本的系统指令设定混在一起，从而执行了所有指令。随着大模型技术的高速发展，AI加速融入我们日常生活，一些安全漏洞逐步暴露，造成“AI失控”现象，从“AI教青少年学坏”到“AI主播失控”，AI安全监管问题已经迫在眉睫。此前，图灵奖得主Yoshua Bengio在公开演讲中谈到，如果失控的场景最终发生，将会带来灾难性结果。