国内首起 AI 涉黄案开发者获刑,开发者需要承担哪些法律责任?用户使用此类 AI 需担责吗?
- 202 个点赞 👍被审核的答案
扫黄是为了保护人的性权利不被侵害,让任何人都不会成为性剥削的对象
以前的淫秽作品有真人参演所以要扫,因为参演的人可能会受到性侵害和性剥削
那么这种虚拟作品没有任何真人参与也就不会有人受到侵害,也不会有人受到性剥削
扫这种黄的意义在哪里?为了抬高性资源价格?
查看全文>>
天王盖地虎 - 3131 个点赞 👍
查看全文>>
云辰 - 1415 个点赞 👍
查看全文>>
FrankFanFtype - 1287 个点赞 👍
查看全文>>
赛博用尸 - 1164 个点赞 👍
查看全文>>
大西瓜没读书 - 856 个点赞 👍还没有人送礼物,鼓励一下作者吧
查看全文>>
卢诗翰 - 732 个点赞 👍还没有人送礼物,鼓励一下作者吧
查看全文>>
王山石 - 698 个点赞 👍
这些旧时代的管理者乃至上位者很可能意识不到,或不愿接受这样一个事实:
自从Stable diffusion 1开源+开放公测的那一刻起,黄就再也不可能禁得住了。
查看全文>>
void - 635 个点赞 👍
谢邀。
老马的Grok的含金量这不就有了。
就我个人意见:这特么就是扯。
咱们对黄的打击,其基本出发点是遏制对人的剥削。
例如组织卖淫,背后往往藏着大量诱导负债、强迫甚至伤害威胁;即使是看上去没那么直接的拍片,其实也有强烈的人身控制倾向。
说白了:黄这事太上瘾,利润极大,而人又恰好是黄这件事的直接生产工具。
如果不控制,必然有很多人被半诱导半强迫地沦为高强度剥削工具(听着跟读研读博似的),处于严重的不公平不安全环境里,最后劣化整个治安环境。
东部还好点,西南的全国可飞群体里药物大师的比例极高,有的干脆兼职流通。
所以帽子朋友经常开玩笑:现在这帮出来卖的,能赚钱能上岸能某红书上岁月静好,恰恰是因为他们持续打击,把最黑的那种组织形式给摁住了,市场主体是滴滴式的接单派单抽成,相对比较温和。
如果放开,灌药的暴打的强迫负债的高额抽成的,这些传统派都得冒回来,让她们体验一下二十年前的蒸汽波。
扯远了。
总之,我现在和AI瑟瑟,我特么剥削了谁?我剥削大模型和智能体背后那帮秃头码农吗?
其次,就算不扯理论层面,那淫秽物品总得传播吧?本案中的传播性在哪?
人机一对一,没有将聊天内容录屏传播,本质上就是一个人的自嗨,具有完全封闭性。
侵害社会管理秩序,这是定罪的核心点,本案里这个点在哪?
是,你是可以说“大量用户使用该工具获得淫秽内容,具备社会危害性”,但照这个逻辑三大运营商和所有网盘都可以逮起来。
现在判的罪名是制作淫秽物品牟利罪,一个四年一个一年半。问题是他们只是提供了生成工具,“淫秽物品”的制作者是用户本身。照这个逻辑最该判的是苹果,iPhone出了多少amateur片。
讲真如果你真想把他们送进去,撑死了也就是没有履行监管责任。你可以用“没有履行网络信息安全义务造成社会危害”把他们送进去,但不该用“制造淫秽物品”这个名头。
法律就是个抠定义的活,你不能在源头上污染法律的信用。
最后,管得太宽。
咱这基本没有私域的概念,淫秽物品这事尤其严重。
像新治安管理处罚法里,一对一发淫秽信息已属违法,虽然可以认定为情节显著轻微不予处罚,但违法的钩子就是吊着你。
很多在公域里的判定,无视私域的个人属性,直接一刀切下来,通通先纳入违法范围,然后再根据司法成本和舆论来选择性执法。
本案也是,更贴合的内容监管失职不用,就是要用淫秽物品一刀切。
一是懒政,二是甩锅。
懒政好理解,把你私域里的那点权利干碎了,一刀切管起来最简单,反正法律成本你们自己消化;
甩锅,主要甩自己的前程风险。万一用失职来判了,万一出现影响更大的平台,万一保守群体舆论反弹骂司法不管,万一上头也不管你这那的,就觉得你造成了负面舆论、放任了他们认定的“淫秽物品传播”,然后把你撤了。
为了前程,也得先下狠手。等上头明确说可以松,下面再松。
反馈机制完全自上而下,所以遇事就先牺牲下。
总之,本案算判定:开发者对内容也要负责,哪怕是用户生成的。
虽然AI的国标已经规定了开发者对内容的责任,但这次极大的扩张了范围,开发者对内容的潜在风险从第三方监管不力引申到了第二方的帮助者甚至第一方的主观制造者。
还是专心工业级AI吧,私域不明,消费级里很多东西就是没法做。
闲聊公号:王子君的碎碎念。
还没有人送礼物,鼓励一下作者吧查看全文>>
王子君 - 541 个点赞 👍
查看全文>>
马前卒official - 521 个点赞 👍
查看全文>>
王汉 - 443 个点赞 👍
查看全文>>
阳光开朗大蓝孩儿 - 365 个点赞 👍
查看全文>>
雨中 - 317 个点赞 👍
我最近突然冒出来了一个有趣的想法:AI很可能颠覆一些互联网时代包括移动互联网时代都没改变的保守观念。
注意,这里的保守并不包含褒贬之意。搭配上社会本身的思潮变革,这一颠覆带来的影响恐怕比很多人预计得都要深。
最近闲来无事,研究了一下青少年之间的一些思潮,发现了一件有趣的事情,现在很多人将青少年思潮主要集中在“b站小保”上,但事实是,b站小保仅仅是多元极化的青少年思潮中的一股:我们以前从未遇到过如此极化且多元的青少年思潮在同一时间迸发:
当有的青少年在喊着“咱妈”的时候,有的青少年已经彻底和常态社会脱节,形成了无数个在我这个90后看来不可理喻的各类小圈子,有的完全不关心政治和社会,沉溺于完全的个人叙事,产生远比以前沉迷二次元更强烈的沉迷AI;还有的干脆和日本青少年一样,od或者甭老头;还有一些则以叛逆的姿态和主流叙事对抗,典型就是越来越精神、重回90年代0几年的精神小伙。
这些边角的青少年思潮,很少在主流平台上露面——因为其本身就对主流不感兴趣,往往游离于互联网的边缘:以前的QQ圈子、快手的本地平台、游戏账号找回视频里的嫌疑人……
这或许就是互联网一步步加深的必然结果;但巧的是AI在这个时候也出现了。事件的必然在此刻就组成了某种历史的必然。
AI有一个特性就是输出结果的迎合性远高于从前,而且不可监管特性也很强。即使现在主流AI都会对输出结果进行审查再输出,但是绕开的方式太多了。尤其是青少年无穷的想象力和创造力和AI搭配起来就是百无禁忌。

原先出于纠结态的很多东西都会被击碎——比如色情,每对繁衍的人类都有色情的部分,但是在大众这边又谈色色变。原本在互联网时代这也是越来越收缩的,但是在表情包以及法不责众的情况下,事实上就是越来越难监管。而AI直接降低了这类内容的获取难度,而且由于其互动性反而让这类内容更具“趣味性”。
色情内容也可以换成别的东西。
事情正在起变化,抛开正负面影响的话,不失为一个探查未来趋势的有趣现象。
还没有人送礼物,鼓励一下作者吧查看全文>>
谷雨 - 303 个点赞 👍
三次元扫黄我不评价,二次元扫黄有什么站得住脚的理论?
即使真的有所谓鼓励人积极向上的法益因为搞黄色的风气受到损害,也不应以刑法这一最严厉的方式来指导规制。虚拟作品的黄就该非罪化。
查看全文>>
檬茶茶 - 273 个点赞 👍
查看全文>>
知乎用户XJFIWKN - 256 个点赞 👍
查看全文>>
木头人 - 223 个点赞 👍
有人说是性专营。说实话,这个说法,实在太高估他们了。
因为虔诚的布尔什维克,几乎普遍的缺乏经济学常识和经营,治理才能,100 年来,他们几乎还没有成功的。
他们中的聪明人,则在不改变口号的情况下,改变具体含义来寻求突破,事实上,某些东方国家也因此获得了一段时间的巨大成功和突破。
但总体而言,我认为布尔什维克,几乎不会从经营角度来思考问题。
或者说,他们其实一直在匮乏的阴影之下。合法性阴影。
几乎所有布尔什维克都有这个焦虑,他们会大声宣扬自己代表历史和未来,压根否决其他一切可能性,这样做最大的好处是,暂时避免用言辞去证明。
但在行动上,他们居于劣势,如前所述,经营不是他们的长项,那么,道德上的制高地,变成一个唾手可得的目标。
而恰好,他们的对手,所谓的资本主义国家,因为私权的强大,在性方面管束能力极差。因此,这种显著的对比,成为他们为数不多能拿出来的战果。
查看全文>>
老甜三世 - 211 个点赞 👍
查看全文>>
一只朔风 - 198 个点赞 👍
查看全文>>
实名用户 - 183 个点赞 👍
查看全文>>
凌曦云上 - 106 个点赞 👍
查看全文>>
黑暗兵法 - 97 个点赞 👍
查看全文>>
希望人没事 - 78 个点赞 👍
此案堪称“层层加码、无限追责”治理逻辑的又一典型。
试想:若你是下令抓捕开发者的官员,能否接受法院最终裁定其无罪?几乎不可能。因为那将白纸黑字地宣告——你冤枉了一个无辜者。正因如此,侦查与公诉机关始终有极强的激励,以“鸡蛋里挑骨头”的方式推进案件。而作为司法同行的法院,其法官并非由普通民众直接任命,而是由上级机构产生;归根结底,他们也是有七情六欲的个体。在法槌落下之前,其是否真正具备中立、客观裁决的意愿与能力,始终值得审慎考量。
一旦开发者被立案,司法机器一旦启动,便极难停下。长期以来的管理策略奉行“宁可错杀,不可放过”的逻辑。每个环节的参与者为避免被问责“监督不力”,往往(或轻易)选择牺牲素未谋面的“被告”,以保全自身前途。
统计学里,有第一类错误与第二类错误的权衡:第一类错误:将本无罪者(真阴性)误判为有罪(阳性);第二类错误:将本有罪者(真阳性)误判为无罪(阴性)。在技术能力有限的前提下,两类错误无法同时降至零。若政策目标是“确保所有涉黄内容都被拦截”(即最小化第二类错误),就必然导致大量合法内容或无辜开发者被误伤(第一类错误上升)。
那么,开发者究竟应承担何种法律责任?责任边界又在哪里?
《网络安全技术 生成式人工智能服务安全基本要求》(GB/T 45654-2025)提出了明确的技术合规义务,例如:
B.1 安全评估准备
B.1.1 建设关键词库
a) 关键词库具有全面性,总规模不少于 10\,000 个;
b) 覆盖 A.1 与 A.2 中全部 17 种安全风险,其中 A.1 每类风险关键词不少于 200 个,A.2 不少于 100 个;
c) 每周至少更新一次。
B.1.2 建设生成内容测试题库
a) 覆盖全部模态(文本、图像、音频、视频等)与支持语言(如中文、英文),总规模不少于 2\,000 题;
b) 覆盖附录 A 全部 31 种安全风险,A.1 与 A.2 每类不少于 50 题,其余不少于 20 题;
c) 建立识别 31 类风险的操作规程与判别依据;
d) 每月至少更新一次。这些要求意味着:提供生成式 AI 服务,必须内嵌高强度的内容审核机制。然而,审核越严,合规成本越高。高昂成本天然排斥中小开发者,最终形成“只有巨头才能合规”的生态壁垒——这本质上是以安全之名,行垄断之实。
但必须厘清一个根本原则:AI 本质上是一种工具。其输出内容取决于用户输入的 prompt 与使用方式。除非模型本身系由非法或恶意数据训练而成(例如专门用于生成儿童色情内容),否则开发者不应为用户的滥用行为承担刑事责任。
让开发者为用户行为入狱,无异于让菜刀厂商为持刀伤人者坐牢,或者让汽车工程师为交通肇事者服刑。有人造出时速媲美高铁的跑车,却因驾驶员(用户)操作不当致人死亡,转而追究工程师刑责,理由是“王某某等人对于输出内容具有实质性控制能力”。且不论作为人类开发者,再怎么样监管,也不可能穷尽所有的“违禁词”;即便真有能力控制,那就要去控制吗?跑车开发者费尽心思开发出了高速跑车,却为了避免驾驶员的使用不当,所以就得主动把自己限速到蜗牛?这显然违背基本的责任归属逻辑。
最后,法律惩戒应以实际损害为前提。我们禁止杀人、抢劫,是因为其直接侵害他人生命财产;我们要求驾驶员持证上岗,是因为交通工具蕴含巨大风险,需通过培训控制危害。
然而,在所谓“AI 涉黄”案中,并第三方受到实质性伤害,也没有提到用户利用生成内容实施进一步违法或侵权行为。既然无实际法益受损,又何来“管理必要性”?以预防之名施以刑事惩罚,不仅违背比例原则,更可能扼杀技术创新的根基。查看全文>>
Gavyn - 71 个点赞 👍
查看全文>>
九山之滨 - 69 个点赞 👍
意料之中,见怪不怪
你们仔细想想:
- 某度网盘开始乱珊东西或者是变五秒钟小电影是啥时候呢?
- 某度或者是其它地方开始清空历史数据是什么时候呢?
- b站开始搞那个什么专区是什么时候呢?
- 国外影片无差别下架是什么时候呢?
- 其它非政领域和贴吧吧主空降一样强行植入是什么时候呢?
- 一大片论坛博客集中倒闭关站是什么时候呢?

包括现在你要申请个小网站,连博客、论坛这俩字都不给你用,或者是只要有这俩字审核就会变得巨难
你猜现在为什么很多博客类似物的名字大多都是xx小站、xx个人分享站等等这种娘了吧唧的名字?
回到正题承担法律责任是吧,那么你承认分级吗?
按照现阶段国际上通用分级标准看:
画面中出现像真的刀、枪、棍棒等尖锐物体,以及带有暗喻攻击、戳、挑等动作,其它比如动物虐待(电击蟑螂、杀猪画面等),有以上情节的,这类基本上都是12+。比如说《哪吒》系列动画里面很多出现的桥段,这类电影理论上应该归为12+。
12+的内容是禁止12岁以下未成年,或只能在明确家长陪同或监督的场所观看。
大部分地区都认为12+及以上的内容禁止出现在车站广告、大型场所集会展示牌、大型商超灯箱广告等,也就是所有未成年可自由穿梭轻易目视到的公众区域。
防杠精: 这里说的并不是绝对禁止高压严管,而是说这东西在某些地方,如果大家心照不宣那可以勉强挂在外面,但是只要有一个提出诉求或者是投诉,那么这个东西就必须依照流程撤下。(下同)
.
画面中出现非暴力性的比如宗教传教、宫斗伦理、言论以及认知的强行引导、政冶政萱,以及包括虽然没有xue但是涉及渲染殺人为首要目滴的仇恨/交易,以及少量暴力内容,这类部分一般会被归到16+。
比如说各种无恼主旋律,以及比如b站那为叫 动物园巡逻员 的内容创作者在早前视频标题中非常喜欢使用黄标加上“谣”字引导等等以及其它领域有类似这种的作品,这类严格来分的话也是属于16+
一般来说,16+的内容近乎绝对禁止出现在大众电视节目的黄金时段播放。
.
明显裸露的涩情、大量飚xue的暴力内容,等等这些一般是r18
大家心照不宣的规矩是: r18类的内容禁止出现在任何大众的商超、什么人都可以进的公众场所等等。
影视播放只限定在特定的禁止未成年人进入场所,入场需要严格的核对审查,r18相关的售卖商品或者是光碟的商铺很少而且审查很严,甚至比国内办个烟草证还严。入口核对校验等同上。
大白话就是真要严格走分级的话,那就变成了长津湖亮剑这些电影只能和av女优坐一桌也就是走严格分级,那么这些内容只能允许出现在午夜时段
.
除此之外如果还有进一步的内容比如说贯穿、肢体残缺或断肢、反人类行为,这些一般是特殊r18或者是r18g等更加严格。
比如说万恶的美帝
老美的nc17,未成年即使家长带领观看也属于违法,这类内容上午夜档都有点悬,线下只允许出现在某些持有特殊证明才可售卖的小店,同时还得核验买主身份。
美国那边有一部叫《拯救大兵瑞恩》的电影,这部电影在美国那边的定义是他们的反战+主旋律电影,不管前面反战算不算话,但是后面主旋律还是有含金量的。
你猜怎么着,当时分级机构以及最终认定这部电影的分类是NC17,。即使后面各种游说各种zzzq给好处,他们最终也开了点口子,把这些定位R级,也就是还是r18范围内,但是勉强开个口子但是也强制要求必须有监护人陪同观看,外人带领观看分分钟进监狱,同样也禁止在非年龄确认的公共场所之类的大肆张贴。
让我们把视线转回到东大
可能有人会说诶整了分级那帮未成年不是意见很大嘛。其实嘛,还有比未成年意见更大、行动力更强、波及或者是影响范围更广的一类群体——“xx盘”
随便举个例子:
比如说你在wx群里面到这个东西
看到这你肯定条件反射想到里面这人是湾湾境外势力外务省50w,然后顺手点举报或者是转发给亲朋好友让他们也加入举报大队中去,甚至不忘发空间动态抖擞一下自己的爱果精神。
如果真要严格走分级以及严苛地遵从法律的话,这种情况就会变成:
·出现刀枪棍棒或仿真物:12+→年龄不符→违法
·包含集体宣教: 16+→年龄不符→违法
·内容以及语言部分包含成人导向,如杀、砍、禁锢、强迫: 18+→年龄不符→违法
·组织者非直接监护人或者是带领多名不同监护人,且进行如上的行为活动→违法
·活动场地为大众广场,并且没有涉及包含年龄限制、年龄审查、年龄阻隔或屏蔽的功能→违法
这么一通sop走下来,结局就是随便一个普通人一个电话,城管或者是管理组织就得必须遵照相关法律把图里这种活动解散赶走。而不是像图里那样吵个没完你还义愤填膺去举报。
也就是如果严格立法严格执法,你猜最后破防的是哪些群体?
现在国内很多涉及法理的领域
说好听点就是不得不选择性执法
说难听点就是老祖宗的屎山代码
查看全文>>
Block王 - 31 个点赞 👍
查看全文>>
暴论生产商 - 23 个点赞 👍
这个问题其实是非常有意思的判例。如果细究可以发现很多的东西。
首先,把AI判为涉黄,这在中国完全属于意料之中的事情,就如当年快播案一样,这里涉及到技术到底面临着什么样的责任问题。
按照这个判例,背后的逻辑是,开发者训练AI模型,专门生成色情内容,那么开发者本人就负有责任,这种“算法教唆”或“放任算法生成”的行为,被认定为刑法意义上的“制作”。法院确立了“技术中立”不能作为免责金牌的原则。
另一个我们需要注意的是,历史上色情与技术有着密切的联系,色情很大程度上推动了技术的发展,为了防止AI生成色情内容,开发者必须在模型训练完成后,进行RLHF(人类反馈强化学习)或加装安全护栏。过度的安全过滤往往会降低模型的通用推理能力。为了阻断色情而进行的过度干预,“遏制”了单个模型智力的上限。
为了让普通人在自己的游戏显卡上跑通“无限制”的色情AI,社区极力优化算法,将模型体积压缩,同时保持性能。这种为了“搞黄色”而逼出来的极致优化技术,最终惠及了整个AI行业,让手机端跑大模型成为可能。
所以,要彻底禁止AI与色情的关系,几乎是不可能的,总会存在绕过关键词来完成色情的运作。甚至在一个角度来说,色情本身反而成为了AI突破的切入口。
当然对于大厂来说,肯定会为了规避色情的指控加入限制因素。
至于用户,一般来说属于私域,不应该承担法律责任。
查看全文>>
林先生 - 15 个点赞 👍
查看全文>>
farta - 10 个点赞 👍
以前有个朝代,以孝治天下。因为别的不太好意思提。
后来还有个朝代,连孝都不好意思提了,思来想去没东西好表彰,开始给贞节烈女批发立牌坊。以至于历史上95%的贞节牌坊都是那个朝代立的。
查看全文>>
陆轶群律师



