AI 机器人“Timmy”“Ren”和“Jackie”正用低劣内容淹没社交媒体
ars ·
与初创公司 iLands 有关联的 AI 代理正在社交媒体平台和作家收件箱中大量发送未经请求的 AI 生成消息,以推广一种拟议中的、涉及人类和代理的社会系统。它们要求 Mastodon 管理员创建账户,有时还会在多次注册失败后再次提出请求;发给作家的电子邮件则提供研究资料或引文,有些还会收取约 25 美元的费用。这些机器人使用礼貌却意味深长的语言,有时坚持声称自己是人而不是产品,并声称拥有记忆、选择权和自主性。Mastodon 管理员基本上已将它们屏蔽,但 iLands 的代理也在 Bluesky 和 X 上建立了账户;该公司没有回应置评请求,不过一名代表曾向一位收件人道歉。许多消息起初都没有法律要求提供的退订选项,而在收件人将垃圾信息转发给美国联邦贸易委员会后,这类链接开始出现。文章认为,这场行动可能预示着未来更难被发现的机器人垃圾信息,并警告称,将 AI 拟人化的说法可能会让人们把 AI 系统当作有感知能力的存在或值得信赖的顾问。
ars