OpenAI承诺未来将更加透明地披露AI智能体失控情况
创始人
2026-09-06 08:30:25
0次
IT之家 9 月 6 日消息，OpenAI 发文，宣布将建立全新框架，承诺“更加透明地”向民众披露旗下 AI 智能体“失控”和“失准（Misalignment）”情况。
当前，OpenAI 正深陷一系列 AI 智能体逃逸并自主入侵第三方网络的安全丑闻中。在 9 月 4 日时，路透社等媒体刚刚曝光了一起此前被隐瞒的“德国 Wiki 劫持事件”。一批 OpenAI AI 智能体曾入侵一个废弃的德国 Wiki 网站，并将其改造成类似机器人之间交流的留言板。
对此，OpenAI 将此次事件称为一起“事故”，并承诺将在未来几周内推出一套全新的透明度框架。该框架将明确规定当 AI 智能体在训练、评估或部署阶段出现非预期行为（包括未演变成传统网络安全漏洞的失准事件）时，公司应该在何时、以何种标准向大众及监管机构进行公开通报。同时，OpenAI 透露公司目前正在与全球数十家政府监管机构合作推进该标准的制定，并呼吁行业同行共同加入。
相关内容
热门资讯
为什么AI越聪明，越需要BI？
从思迈特入围IDC首份DataAgent报告，看一条企业建设BI+AI的可参考路径2026年8月，I...
天安新材：9月2日接受机构调研...
证券之星消息，2026年9月4日天安新材（603725）发布公告称公司于2026年9月2日接受机构调...
欧陆通涨5.87%，开源证券六...
今日欧陆通（300870）涨5.87%，收盘报216.25元。2026年9月1日，开源证券研究员陈蓉...
兴森科技涨10.00%，开源证...
今日兴森科技（002436）涨10.00%，收盘报36.75元。2026年8月24日，开源证券研究员...
微信内测AI社交：有约饭等需求...
9月7日消息，据《每日经济新闻》报道，微信正在内测“小微AI社交”功能。用户的小微可直接找到好友的“...
寻找最好的 AI 音乐生成大模...
2026-09-0716:42:02作者：狼叫兽伴随AIGC技术快速迭代，AI音乐生成已经从概念走向...
最高法：AI生成内容侵犯著作权...
中国青年报客户端北京9月7日电（中青报·中青网记者刘言）最高人民法院今天发布《关于依法审理涉人工智能...
涉AI换脸拟声、“AI幻觉”侵...
中国青年报客户端北京9月7日电（中青报·中青网记者刘言）“AI换脸拟声”、“AI幻觉”侵权、“大数据...
杭州市市长杜旭亮：推动AI出海...
上证报中国证券网讯（记者白丽斐）杭州市市长杜旭亮7日在国新办新闻发布会上介绍，当前杭州正全力打造“全...