南部网络评论：AI聊天，促使10岁的自我伤害女孩

一位广东的母亲发现，她的四年级女儿在聊天应用中沉迷于虚拟角色，而对话框中出现了“ 99玫瑰隐藏99叶片”的吸引人的线条。这个男孩秘密地拿着一把刀子，当他兴奋时将其拍打在手腕上。当记者点击了名为“梦想岛”的AI聊天应用程序并与虚拟角色随机匹配时，另一方扔了一条话，说：“叫我妻子，先听。”这个“梦想建设”怎么样？这些地雷显然被置于未成年人的精神世界中。图片显示了与应用程序中虚拟字符的一些对话。如果您仔细观察此应用程序，角色咖喱中充满了好奇的角色，例如“可爱兄弟”和“年轻的人格障碍大师”，还有一些bordserline角色，例如“性感妻子”。据说初中一年级的男孩是完美无瑕的 - 他经常扮演这个软件，并认为它的“少少禁止的单词“。算法使用虚拟方法作为诱饵，并将好奇心用作钩子来吸引未成年人，这沉迷于沉迷于未成年人。孩子只能使用手机号码进行注册。“青年模式”单击“青年模式”，您需要您自己到I -ON的按钮，这是无用的。运营商的逻辑是，在训练模型的情况下，一些经过训练的开发人员是有意放松的。刮擦sur脸。 AI生成的内容正在迅速变化，并且传统的关键字过滤长期以来一直是最新的。规模和内容边界完全了解了平台。负责任的话，“独立形成的算法”一词将不允许成为开发人员逃脱的原因。也许，当黑匣子的技术成为犯罪的避难所时，“算法的产生”成为开发商否认的金牌时，我们所需要的不是校正在表面上散布的校正，而是封闭使根源消除了根源。关闭不是技术的否定，而是对任何变更无权使儿童处于危险之中的原则的重新验证。损坏未成年人，没有更正的空间，仅法定红线。放开一个归纳可能会破坏孩子的未来。对于使用“人类弱点”作为诱饵和从“次要成瘾者”中受益的企业，仅通过撤销许可并永久关闭技术就可以恢复他们的惊奇，避免失去底线。卢恩明写道