近年来，人工智能技术在影视领域得到广泛应用，极大丰富了群众的文化生活。然而，《新华视点》记者近日发现，一些深受年轻人喜爱的AI动画作品中存在着奇怪的人物、令人毛骨悚然的音效和低俗的内容。有些内容包含色情或恐怖等元素，这可能会让父母担心。这种AI动画是如何制作出来的呢？我们如何为儿童保持网络空间清洁？记者对此进行了采访和调查。 “调整”的人工智能动画很难预防。 “百合百合紫丁香……”天津市民李某最近发现孩子们嘴里“背单词”。我查了一下，发现这是深受青少年喜爱的《AI山海经》中的一个动漫人物的名字。 “很多‘AI山海经’视频画面奇特、背景昏暗，没有故事或逻辑。不过，孩子们会很喜欢看这些动画，并与同学讨论这些动画图像，甚至认为内容是《山海经》的真实故事。”家住山西省大同市的张先生说，他正在用视频应用程序给孩子们看动画片，系统反复显示人工智能“神奇修复”的动画。“一开始我在看《小马驹》，它开始播放小马驹拉着婴儿车哭的视频。并被艾莎公主打屁股。我本来想看《天线宝宝》的，但视频里却出现了天线宝宝被起重机碾碎的画面。”此外，有些AI动画被贴上“儿童动画”的标签，也可以在青少年模式下观看。另外，由于大数据算法的配置，当孩子主动或被动观看此类AI动画时，类似的视频会频繁出现，防不胜防。一些接受采访的家长对许多人工智能动画视频以孩子们熟悉的经典卡通人物为特色表示担忧。孩子们信任的角色是不合适的。除了导致儿童认知混乱之外，消极的行为方式还会导致模仿。除了《AI山海经》之外，根据《红楼梦》《西游记》《三国演义》等经典作品改编的AI视频也出现在社交媒体和短视频平台上。 “林大宇拔垂柳”、“唐僧持加特林枪”等荒诞场面令人触目惊心。天津市河西区德贤小学校长周锐认为，这种对经典作品的歪曲和戏仿，会对尚处于人生观形成阶段的青少年产生负面影响。记者对人工智能视频中不当内容“影响最大的区域”进行调查发现在多个AI内容生成平台上，用户可以通过上传简单字符、输入文字命令，快速生成动态视频。电商平台上也有专门从事动漫定制服务的卖家。在社交媒体上，你还可以看到大规模人工智能生成图像的教程帖子和测试帖子。其中，动漫是AI视频中不当内容“受影响最大的行业”。 “虽然AI技术大幅降低了制作成本和门槛，为内容创作者提供了巨大支持，但客观上也开启了更多误导甚至误导的视频产品进入用户视野的可能性。”南开大学信息与传播学院副教授余梦丽表示，一些投机创作者利用青少年的好奇心，创作出快节奏的作品。精彩的AI动画作为“交通密码”，“吸引注意力”记者证实，在短视频平台上，不少AI动画，包括荒诞内容、暴力、软色情内容等，都有相当大的流量。例如，一部《奥特曼开着挖掘机，在路上疯狂砸车》的动画就获得了2.6万个点赞。据业内专家介绍，这类内容的创作变现方式有多种。塑料除了分享平台流量外，还可以通过卖盲盒、卡片来赚钱。工信部法律战略与工业信息技术管理重点实验室副主任赵景武表示，以“山海AI经典”为例，手办、公仔、影印图鉴等衍生产品在电商平台上销售。采取“人工+机器”的审核方式。一些平台使用数字技术工具对照片和视频内容进行批量审核。一些平台还设有专门的人工审核团队，负责审核突出的在线信息内容，例如投诉和服务报告、用户和主页推荐。这种批量生成的人工智能动画视频对平台监管系统提出了挑战。赵景武表示，现有审查机制对于处理隐蔽性高、法律特征模糊的网络内容存在局限性。通常很难快速准确地判断一个平台是否包含非法或有害信息。此外，人工智能生成的视频和图像通常与常规内容混合在一起，使得识别更加困难，并显着增加了人工审核的成本。为孩子构建清晰的网络空间 当AI技术深度融入社会生活，如何为孩子打造一个清晰的网络空间？积极帮助儿童发展，而不是参与创作有害内容？ 2024年发布的《生成型人工智能服务基本安全要求》明确规定了适用于未成年人的生成型人工智能服务的相关内容。 2025年4月，中央网信办开展“扫除和打击人工智能技术滥用”专项行动。该模组的目标是利用人工智能提取和绘图等功能来生成合成色情内容，包括血腥和暴力场景、人体扭曲和超现实内容。这包括创建和发布怪物和其他事物的可怕和奇怪的图像。多位受访专家建议，应进一步加强对人工智能视频的产业链监管，强化平台主体责任追究。赵景武在线平台表示企业应重点审核面向未成年人的人工智能综合推送信息，建立专门团队优化面向未成年人的算法推荐服务，加大优质网络信息内容的驱动权重。从源头治理的角度，于梦丽建议，应强制AI生成工具加入防篡改的数字水印，以实现内容的准确溯源。 “孩子对信息真假的判断能力较弱，面对人工智能等新技术带来的网络信息泛滥，家长应该积极承担起监护人的责任，成为孩子观看内容的最终‘看门人’。”中宣大学动画与数字艺术学院院长王雷表示：天津滇医院儿童青少年心理病房主任雷童表示，学校和家庭要加强对米诺的生活教育rs，让孩子树立正确的价值观，抵制网络有害内容的侵袭。同时，增加优质儿童文化产品供给。 “如果‘好’内容足够多、足够有趣，自然就没有‘烂’内容生存的空间。”童雷说。来源：白嘉丽、李雅婷/新华每日电讯
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传发布，网易号是一个仅提供信息存储服务的社交媒体平台。
近期评论