近日,一个名为“AI儿童绘本·身体恐怖特辑”的话题在社交媒体上引发热议。多位家长和出版界人士发现,部分由人工智能生成的儿童绘本插图呈现出令人不安的身体恐怖(body horror)美学特征,包括扭曲的人体构造、怪异的面部比例、诡异的肢体延伸等,与儿童读物应有的温馨、安全、正面形象大相径庭。
诡异插图频现 引发家长担忧
“我本来想给孩子找一本关于小动物起床的早教绘本,结果AI画出来的兔子眼睛像两个黑洞,嘴巴一直咧到耳朵根,小朋友看了一眼就吓哭了。”家住北京的年轻妈妈李女士向记者反映,她在某电商平台购买了一本标榜“AI智能绘画”的儿童绘本,收货后才发现内页插图充满令人不适的视觉元素。
记者调查发现,这类“身体恐怖”风格的AI儿童绘本并非个案。在多个网络平台上,用户分享的AI生成儿童读物示例中,不乏有着异常长的手臂、扭曲的关节、过多或过少的五官,以及明显不符合人体解剖学的形象。一些角色虽然面带微笑,但笑容僵硬,眼神空洞,呈现出难以解释的“恐怖谷”效应。
算法偏差还是审美失范?
对于这一现象,人工智能图像生成领域的专家给出了技术层面的解释。北京某高校人工智能实验室的张明教授指出,当前流行的文本到图像生成模型(如Stable Diffusion、Midjourney等)在训练过程中学习了海量互联网图像数据,其中包含大量非儿童友好的素材。“当模型被要求生成‘一本风格独特的儿童绘本’时,它可能从‘独特’这个词出发,去匹配训练数据中那些带有超现实、诡异、甚至恐怖美学的图像特征,而非真正理解儿童审美需求。”
“这是典型的算法偏差问题。”张教授补充说,“AI无法理解‘儿童绘本’这一概念背后的文化规范和社会期待。它只会机械地根据词汇关联性进行拼贴和组合,结果就是出现‘技术正确但伦理错误’的产品。”
出版行业面临新挑战
一些传统儿童图书出版从业者对此感到忧虑。资深童书编辑赵女士表示,目前市面上涌现了大量利用AI“批量生产”的低成本儿童绘本,“有些出版社或者个人作者为了追求速度和噱头,完全放弃了人工审核环节,直接把AI生成的图文打包出版,这种操作非常不负责任。”
“儿童读物尤其需要严格的审美把关和价值观引导。身体恐怖的画面会扭曲幼儿对正常人体形态的认知,甚至造成长期心理阴影。”赵女士强调,“AI可以成为创作工具,但绝对不应该成为最终的审核者。”
平台紧急下架 监管呼声渐起
事件持续发酵后,多家电商平台已开始自查,对涉及“身体恐怖”风格的AI儿童绘本进行下架处理。与此同时,消费者权益保护组织也呼吁相关部门尽快出台AI生成内容在儿童读物领域的应用规范。
截至目前,国内尚未有专门针对AI生成儿童图书内容质量的具体法规。业内人士建议,至少应当建立“AI生成儿童读物须经专业人工审核”的行业自律准则,并明确要求相关产品在显著位置标注“由人工智能辅助生成”字样,以提醒家长注意选择。
专家支招:家长如何识别异常AI绘本?
面对良莠不齐的AI生成儿童读物,家长该如何辨别?多位儿童心理与教育专家给出以下建议:
- 关注插图的自然度:观察人物或动物的五官、四肢比例是否合理,动作姿态是否符合正常生物特征。
- 留意眼神与表情:AI常会在眼睛、嘴巴等细节上出现“空洞感”或“非人感”,若让人感到不适,应果断放弃。
- 检查文字逻辑:部分AI绘本的文字也存在随机拼凑、语义不通的问题,读起来“前言不搭后语”。
- 优先选择知名出版社或作者:传统出版流程中,儿童图书通常经过多位编辑、美编、儿童心理顾问的层层把关,更有质量保障。
结语
AI技术的快速发展为儿童绘本创作带来了前所未有的便捷与创意空间,但同时也催生了“身体恐怖”这朵意想不到的恶之花。当算法不具备人类的情感判断力和伦理自觉时,最终把关的责任便落在了创作者、出版者、平台和监管者身上。毕竟,在孩子们心中种下美好的种子,远比追求技术进步的表象更加重要。