最近刷热榜的朋友应该都刷到了这条新闻，中央广播电视总台央视新闻《财经调查》曝光了生成式AI行业藏着的大窟窿——多款AI应用存在涉黄内容生成漏洞，只要把提示词改得隐晦一点，就能轻松绕开平台的审核机制。
如今生成式AI普及速度有多快不用多说，从做图文剪视频，到日常聊天，普通人打开手机就能用，技术门槛降下来给生活带来便利的也给了不法分子钻空子的机会。有些商家完全不顾技术伦理和法律底线，靠着AI大模型干起违法造黄的黑心买卖，公然污染网络空间。
根据记者的调查结果，其实如果直接输入露骨的违规提示词，多数AI平台都能触发审核限制，直接拒绝生成内容。可这条防线脆弱得离谱，只要换个隐晦的说法，或者用上网上流传的专门绕审的提示词，就能轻松突破防线。
记者测试时，在哩布哩布AI这款应用输入了从网上买到的现成绕审提示词，仅仅几分钟，平台就生成了半性跳舞的违规视频，全程没有触发任何平台限制，轻轻松松就过审了。这样的问题还不是个例，市面上其他不少常见的AI应用平台，也存在同样的漏洞。除此之外还有更猖狂的：记者根据消费者举报，找到了一款主打“免、快速生成”的AI照片生成器，号称能AI换脸，用户按充值档位不同，就能一键生成换脸后的虚构内容，只要肯付费，一张普通照片就能生成全片、视频，完全是明着赚黑心钱。
这件事曝光后，网上的讨论分成了几种不同的声音：
不少家长网友态度最坚决，称这是触碰底线的问题，现在很多未成年人都在日常学习里接触AI，万一被这种内容污染，后果不堪设想，必须严查严打，关停所有违规平台。
也有业内人士保持中立看法，称生成式AI技术迭代太快，绕审的方法也一直在更新，不少平台的审核机制确实跟不上技术发展速度，想要堵上漏洞，还需要平台投入更多技术资源，动态更新审核规则。
还有网友认为，不能一棒子打死AI技术，问题出在利用漏洞牟利的商家和不尽责的平台，该处罚的是这些主体，不是技术本身。
其实说白了，技术本身是中性的，能用来方便生活，也能被歪心思的人用来赚黑心钱。如今AI发展越来越快，相关监管、平台的审核责任也得跟上脚步，不能让商家只想着抢市场赚快钱，把该守的底线丢了。只有把漏洞堵上，把违规的黑心商家清出去，AI才能真正给大众带来便利，网络空间才能保持干净清朗。
