近期，一些不法分子利用AI技術編造謠言，嚴重擾亂社會秩序。他們通過AI軟件生成虛假新聞和圖片，短時間內能生成大量文章，一天最多可達7000篇，以此賺取平臺流量補貼。這些謠言往往模仿新聞風格，包含驚險細節，更具迷惑性。

公安機關對此類違法行為進行了嚴厲打擊。江西一家MCN機構因發布多條AI生成的謠言信息被查處，實際控制人王某某被行政拘留5日，機構停業整改。在重慶，個人康某某也因編造民房爆炸謠言被依法行政拘留，并收繳違法所得。

專家指出，平臺應履行相應監管責任，合理強化違法成本。平臺在刺激創作的同時，應盡到消除虛假信息傳播的責任，對散布謠言者采取懲罰機制。法律也應匹配違法人員的違法成本，以遏制此類行為的蔓延。網絡并非法外之地，對于發布不實言論、擾亂社會秩序的行為，公安機關將堅決依法處理。

天眼查專業版數據顯示，截至目前我國現存在業、存續狀態的人工智能相關企業超424.3萬家。其中，2025年截至目前新增注冊相關企業約28.6萬余家，從企業注冊數量趨勢來看，近五年間，人工智能相關企業的注冊數量呈現出逐年增長的態勢，并在2024年達到頂峰。

從區域分布來看，廣東省以超過63.6萬余家的人工智能相關企業數量位居首位，占全國企業總數的15%；排在其后的是江蘇省、北京市、山東省和浙江省，相關企業數量分別是超過33.6萬余家、33.1萬余家、29.2萬余家和25.2萬余家。

此外，通過天眼查天眼風險和深度風險來看，涉及司法案件的人工智能相關企業約占總數的2.22%。