本文转自【央视财经】；

虚构新闻、换脸诈骗、伪装声音......AI在提供科技便利的同时，也带来了风险。如今，多国政府都已经将AI立法提上日程，将对AI乱象进行监管。

近日，一张五角大楼附近地区发生爆炸的图片在社交媒体上疯传。图片开始流传的瞬间，美国股市出现了明显下跌。随后美国国防部发言人证实，这是一张由AI生成的虚假图片，这张图具有明显的AI生成特征，比如路灯有些歪，围栏长在了人行道上等。

福布斯新闻网说，尽管五角大楼爆炸从未发生，五角大楼爆炸图却依然疯传，凸显了人工智能生成虚假信息所带来的危险。

仅在2022年，美国就发生了240万起AI相关诈骗案。在生成式AI风险逐步显露的情况下，多国计划出台监管措施。中国国家网信办已在4月发布了《生成式人工智能服务管理办法》草案，将对相关内容限制监管。