当前位置:周记财经 > 资讯 > 正文内容

内容监管:AI生态良好发展的先决条件

更新时间:2026-08-19 01:16:59 资讯3年前 (2023-04-07)57
AIGC-X 是由人民日报社主管、依托人民网建设的传播内容认知全国重点实验室,中国科学技术大学,合肥综合性国家科学中心人工智能研究院联合推出的国内首个AI生成内容检测工具。    人工智能在内容生成领域的应用面临风险监管需求,安全可信是AIGC良好生态发展的先决条件。结合内容识别、内容溯源等技术,AIGC-X 能够有效的推动AI 风险管理、安全审查和评估技术的发展,为建立安全可信AIGC 生态的基础提供技术方案与支撑。
  【事项】  3 月1 日, AIGC-X 正式开始全网公测。AIGC-X 是由人民日报社主管、依托人民网建设的传播内容认知全国重点实验室,中国科学技术大学,合肥综合性国家科学中心人工智能研究院联合推出的国内首个AI生成内容检测工具。  【评论】  人工智能在内容生成领域的应用面临风险监管需求,安全可信是AIGC良好生态发展的先决条件。AI 文本生成模型是在海量文本语料基础上,经过自回归式语言建模的大规模训练得到,模型通过计算下一个单词的概率分布逐步完成整个文本内容的生成。AIGC-X 尝试采用算法融合与知识驱动的人工智能框架,使用深度建模来捕捉困惑度、突现频次等隐式特征,学习得到机器生成文本与人工生成文本的分布差异。结合内容识别、内容溯源等技术,AIGC-X 能够有效的推动AI 风险管理、安全审查和评估技术的发展,为建立安全可信AIGC 生态的基础提供技术方案与支撑。  多模态或将成为下一发展方向,内容生产日趋复杂将提升内容领域的监管需求。OpenAI CEO Sam Altman 曾在2022 年9 月的一次采访中表示,将在不远的将来推出多模态模型。OpenAI 联合创始人、首席科学家Ilya Sutskever 也曾多次在采访和社交媒体上表达对多模态的关注。多模态模型接受文字、音频、图像和视频输入,将支持使用者通过AI 输出可视听内容,内容生产的新范式需要提升监管治理的技术能力,机器的半监督或无监督学习算法叠加更为丰富的内容表现形式势必要求内容安全管理的与时俱进,伴随甚至提前于技术的迭代而发展,图像及音视频内容的监测将有效防范人工智能在虚假信息、学术造假、网络钓鱼等灰色地带中的滥用。  1)内容输出侧,建议关注具备泛安全场景化应用能力和内容生产制作能力的当虹科技(688039);2)内容应用侧,重点关注国内安防龙头海康威视(002415);3)内容安全管理侧,重点关注兼有AI 数据资源优势和安全能力的三六零(601360),建议关注传媒安全领军企业博汇科技(688004)。  【风险提示】  多模态模型推出不及预期风险;技术发展不及预期风险。 【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。

   【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。

内容监管:AI生态良好发展的先决条件

相关文章

押注新央行行长延续宽松政策,海外投资者追捧日本股市

押注新央行行长延续宽松政策,海外投资者追捧日本股市

  受日本央行新任行长提名人植田和男的一系列鸽派发言提振,海外投资者连续6周净买入日本股票,成为自2019年以来持续时间最长的一次。  最新交易所数据显示,截至2月17日当周,海外交易员净买入价值37...

首份券商年报出炉!方正证券净利同比增18%,“平安系”又一高管到任

首份券商年报出炉!方正证券净利同比增18%,“平安系”又一高管到任

  2月27日晚间,方正证券股份有限公司披露了公司2022年年度报告,成为今年以来首家披露年报的证券公司。  报告期内,方正证券实现营业收入77.77亿元,同比下降9.79%;实现归属于上市公司股东的...

亦庄担保推出“创业担保贷”专项担保业务 为创业者保驾护航

亦庄担保推出“创业担保贷”专项担保业务 为创业者保驾护航

近日,为积极响应北京市实施创业担保贷款支持创业就业相关精神,落实北京市经开区关于全面强化稳就业举措、持续激发市场主体活力等工作部署,北京亦庄国际融资担保有限公司在经开区财政审计局和社会事业局的指导支持...

规模与数量齐飞,银行理财产品新发持续增长,募集规模超5000亿|银行理财观察①

规模与数量齐飞,银行理财产品新发持续增长,募集规模超5000亿|银行理财观察①

  近一个月来,银行理财产品发行量呈现持续上升趋势,与此同时,春节过后新发产品募集规模也有所增长。  据普益标准统计数据显示,全市场共存续理财产品32957款,环比增加154款。从周度新发产品情况来看...

最新!高瓴旗下基金持仓曝光…

最新!高瓴旗下基金持仓曝光…

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!   5月16日,美国证券交易委员会(SEC)网站显示,高瓴旗下专注于二级市场投资的基金管理平台HHLR Advisors公...

万马股份(002276):日K线呈现-“乌云盖顶”形态 后市看空(05-16)

万马股份(002276):日K线呈现-“乌云盖顶”形态 后市看空(05-16)

截至发稿,万马股份(002276)报13.49元/股,成交量142.776万手,换手率13.79%,振幅9.99%,量比3.09。 该公司股东人数(户)为83,061...