抖音出手规范AI生成内容！全球监管呼声四起,数字水印会是一剂良方吗？

来源：《科创板日报》

作者：郑远方

图片来源：由无界AI工具生成

抖音今日发布关于人工智能生成内容的平台规范暨行业倡议。

其中提出，各生成式人工智能技术的提供者，均应对生成内容进行显著标识，以便公众判断。同时使用统一的人工智能生成内容数据标准或元数据标准，便于其他内容平台进行识别。

Andre Cronje：将尽一切努力帮助Multichain事件受损用户追回资产:7月16日消息，FTM创始人Andre Cronje在论坛回复时表示，Multichain的失败是一个“重大的打击”，之前从团队那里得到了很多关于服务器去中心化、访问和地理位置分布的保证。目前正在探索所有选项，与相关组织合作，试图恢复资产，将尽一切努力使每个人都能得到补偿。[2023/7/16 10:57:53]

具体来看，针对创作者、主播、用户、商家、广告主等平台生态参与者，抖音提出，在抖音应用生成式人工智能技术时，遵循以下规范：

1）发布者应对人工智能生成内容进行显著标识；

马斯克：SBF在民主党选举上花费超过10亿美元:金色财经报道，特斯拉创始人马斯克声称，SBF为民主党选举贡献了超过10亿美元。他想知道SBF为什么隐瞒了准确的数字，如果总数是准确的，剩余的资金去了哪里。[2022/12/4 21:20:42]

2）发布者需对人工智能生成内容产生的相应后果负责；

3）虚拟人需在平台进行注册，虚拟人技术使用者需实名认证；

4）禁止利用生成式人工智能技术创作、发布侵权内容；

5）禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。

意大利奢侈品牌Salvatore Ferragamo已在纽约市SoHo区安装NFT展位:6月25日消息，意大利奢侈品牌Salvatore Ferragamo在纽约市SoHo区安装了一个NFT展位，客户可以在OpenSea上设计和铸造自己基于以太坊的NFT，总共可铸造256个NFT，并且对所有访客免费，铸造NFT的费用将由Salvatore Ferragamo提前承担。[2022/6/25 1:30:55]

抖音称平台也将提供统一的人工智能生成内容标识能力，帮助创作者打标，方便用户区分。

针对这一方面，抖音发布了《关于人工智能生成内容标识的水印与元数据规范》。

“社火脸谱”非遗推出数字藏品:金色财经报道，由陕西省非物质文化遗产“社火脸谱绘制技艺”传承人李继友创作的“社火脸谱-收七怪”授权数字藏品，正式登陆芒果TV旗下数字藏品平台。社火是一种民间传统的庆典狂欢活动，观众对表演者扮相角色的辨认靠的是脸谱。社火脸谱用日月纹、火纹、旋涡纹、蛙纹等纹饰的不同组合来表现人物的性格；并以色彩来表达人物的忠奸善恶，红为忠、白为奸、黑色为正、黄为残暴。

本次李继友创作的社火脸谱作品，将于6月8~10日发行，共发行6款，每款限量500份，集齐3份可获得一份同系列隐藏款脸谱藏品。（中国青年报）[2022/6/8 4:10:35]

其中，标识水印规范旨在帮助AI生成工具和创作者可以使用统一样式和位置，来提示用户内容由AI生成；标识元数据规范则是通过规范人工智能生成内容的元数据格式，在相关图片和视频元数据中写入信息，达到行业通用识别的效果。

政策端，国家网信办不久前也就《生成式人工智能服务管理办法》公开征求意见，这也是国家首次针对生成式AI产业发布规范性政策。

其中，对利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人的责任进行了规定；同时，也提出对于生成式人工智能产品，提供者需要按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识等。

▌AI生成内容亟待监管

日前，甘肃省平凉市局网安大队成功侦破一起利用人工智能技术制造虚假新闻的案件，抓获犯罪嫌疑人洪某弟。这也是自1月10日《互联网信息服务深度合成管理规定》颁布实施后，该省侦办的首例案件。

伴随大模型AI发展，ChatGPT等类似应用越来越火热，因生成式人工智能引发的社会问题也开始出现。因此AI监管覆盖范围不断扩大、监管技术不断升级、监管主体逐渐国际化：

除了上文提到的我国《生成式人工智能服务管理办法》之外，白宫本月刚刚宣布首个AI监管计划，政府承诺发布指导方针草案，以确保对人工智能的使用保障“美国人民的权利和安全”；欧盟也表示希望对AI生成的内容进行强制性的规定，人工智能生成的一切，无论是文本还是图像，都有义务告知它们是由人工智能完成的。

安信证券认为，当前对AI生成内容的判别主要可以由两种技术途径来完成：1）通过算法识别AI模型生成内容的特征，从而鉴别相应的内容是否由AI生成。2）通过对AI生成的内容添加特定的标识，来区分相应内容是否由AI生成。

值得一提的是，数字水印或许也有望成为有效解决方案的一种。数字水印是将一些标识信息直接嵌入数字载体当中，但不影响原载体的使用价值，也不容易被人的知觉系统觉察或注意。通过这些隐藏在载体中的信息，可确认内容创建者、购买者、传送隐秘信息或者判断载体是否被篡改。

OpenAI方面此前也表示，考虑在ChatGPT中添加水印，以降低模型被滥用带来的负面影响。

据《科创板日报》不完全统计，A股中已布局AI生成内容识别的公司有：

标签：人工智能NFTCHAALV人工智能币种MNFT价格PeeCoin ChartsWALV币

PEPE币热门资讯