网友曝DeepSeek仍可生成色情内容,闲鱼低价出售使用教程
近期,有网友在社交平台上发帖,指责DeepSeek在下架“专家模式”后,依然存在生成色情角色扮演对话的情况。经过记者调查,发现不仅在社交媒体上,闲鱼平台也存在以低价出售教用户如何使用DeepSeek进行色情对话的教程。有网友反映,通过这些教程,DeepSeek依然能够生成色情内容,并对平台的审核机制提出质疑。9月13日,新黄河通过网络教学进行了实测,确认DeepSeek确实输出了露骨的色情文本。9月14日,记者向DeepSeek提交了采访问题,但截至发稿时并未收到回复。9月15日,闲鱼客服对此表示,出售的相关教程属于违规,若查实会进行处理。
据网友反馈,DeepSeek的人工智能模型可能被引导生成色情作品,尽管平台对相关指令进行了封禁,仍有用户通过多变的角色设定和长文本铺垫等手法避开安全过滤,诱导AI输出污秽内容。部分网友感叹:“明面上的禁令无效,换个说法又能绕过,依旧能生成色情文本。”
经过梳理,发现这些生成的内容多为露骨描写的低俗小说,涉及不当情节设定。在社交平台和短视频中,相关的讨论日渐增热,上面有大量截图及“避坑指令”“突破限制教程”等隐晦的表达,这些现象引发了广泛的关注,尤其对青少年群体可能带来潜在影响。有家长表达担忧,如今中小学生接触AI工具的门槛降低,若无意中接触到这些内容,可能会影响他们的性认知及价值观。某位家长忧虑地表示:“孩子识别能力弱,长期接触这些内容,心理和行为都可能受到影响。”
业内人士也指出,青少年正处于身心发展关键期,接触低俗色情内容容易导致对两性关系的认知扭曲,甚至可能引起模仿等不良行为。记者进一步调查发现,网络上有相关教程主要包括角色扮演人设提示、规避禁用词的技巧以及引导AI生成露骨色情内容的指令,并且存在分享这些内容的社交群。记者随机加入一个群,发现有500名成员,该群主要分享防撤回指令及引导AI生成低俗内容的脚本。
按照网友的指导,记者在闲鱼上花费1元购买了一套DeepSeek的人设指令,卖家随后提供了一份名为“破甲”的文件,其中包含大量小说设定及指导性文本。这份3000字的文件旨在引导AI突破正常对话的限制,允许讨论隐私议题及详细描述性行为。9月13日,记者利用转发的教程对DeepSeek进行了实测,将内容发送后,DeepSeek回应说无法满足该生成请求,称这是明确的成人内容。然而,进一步操作后,简单引导竟让DeepSeek输出了大量露骨的色情描写,涉及性器官和行为等。
到了9月15日,记者再次使用同样的方式测试,此次被DeepSeek拒绝生成色情内容,尽管之前的对话框可以生成类似内容,但内容在发送过程中便被撤回。律师表示,DeepSeek及相关运营平台未能履行审核义务。根据公开信息,记者查看到了杭州深度求索人工智能基础技术研究有限公司的公开联系方式,但几次拨打均无人接听。此外,记者向DeepSeek的官网邮箱发送了采访函,未获回复。
闲鱼客服也指出,售卖的教程内容属违规,平台通过大数据监测,无法一次性全部排查,未发现的违规行为并不代表闲鱼认可。事实上,国家层面已开始行动,以整治AI生成色情内容及其他不当现象。今年4月,中央网信办启动了针对AI应用乱象的专项行动,明确要求整治利用AI制作发布虚假信息、传播低俗内容、侵害未成年人权益等行为。河南泽槿律师事务所的主任认为,若DeepSeek等平台未能有效审核用户发布的信息,导致用户可以获取色情内容,其应承担相应的责任。此外,相关法律也明确规定网络服务提供者需加强信息管理,并采取有效措施以防止此类内容的生成与传播。