近日，人工智能安全基礎設施提供商瑞萊智慧（RealAI）宣布完成新一輪戰(zhàn)略融資，北京市人工智能產業(yè)投資基金等參與投資，光源資本擔任獨家財務顧問。本輪融資完成后，瑞萊智慧將繼續(xù)加速通用人工智能安全基座產品研發(fā)，并不斷推進安全可控的大模型商業(yè)化落地。

隨著全球范圍內最大規(guī)模的人工智能浪潮掀起，人工智能的可控性和安全性成為愈發(fā)重要的發(fā)展議題。如今，人工智能大模型的通用性和泛化性大幅提升，應用也從傳統(tǒng)的判別式任務走向生成式任務，而人工智能的內生及衍生安全問題變得愈加復雜，其帶來的挑戰(zhàn)和已經(jīng)引起的各類風險事件也持續(xù)受到全球公眾、企業(yè)和政府的廣泛關注。當下，人工智能安全不僅要解決數(shù)據(jù)風險，模型本身的幻覺、魯棒性不足和不可解釋性等技術問題，還要著力減少倫理風險、價值觀對齊風險，以及AI詐騙等濫用行為導致的影響。

2018年7月，瑞萊智慧依托清華大學人工智能研究院發(fā)起設立，始終深耕安全、可靠、可控的第三代人工智能，著力打造人工智能安全基礎設施，提供以AI安全為核心能力的AI平臺產品與行業(yè)解決方案，為人工智能技術安全、可靠、可控的落地應用筑就堅實基座。秉持著“智能向善”的使命，瑞萊智慧堅持源頭創(chuàng)新和底層研究，實現(xiàn)對AI大模型的研發(fā)部署和應用治理環(huán)節(jié)全覆蓋，建立了包括基礎算法平臺層、底層資源層、應用層的全方位AI安全體系，已成為通用人工智能全產業(yè)鏈條安全標準的制定者和踐行者。

目前，瑞萊智慧已推出“大模型安全基座”與“AI生成內容檢測基座”兩條產品線，分別對應人工智能內生與衍生安全風險。

大模型安全基座基于博弈對抗技術打造，能針對當前大模型幻覺、輸出有害內容等風險做出綜合有效的自動化可控性評測，并可以通過知識嵌入、領域能力增強、模型圍欄等手段，使模型在嚴肅場景的表現(xiàn)更加可控。針對對抗樣本攻擊、模型后門攻擊、數(shù)據(jù)逆向攻擊等人工智能特有的安全挑戰(zhàn)，可提供端到端的AI紅隊對抗安全性測評，并提升模型抗攻擊能力?；谠摪踩?，可直接面向嚴肅場景打造更加可控的行業(yè)大模型系統(tǒng)應用，實現(xiàn)大模型落地。

AI生成內容檢測基座基于貝葉斯深度學習技術開發(fā)，能夠精準判斷圖像、視頻、音頻、文本等各類內容是否由人工智能生成，防止虛假信息的廣泛傳播，同時能夠滿足人臉識別等需要可信內容輸入的場景需求，涵蓋互聯(lián)網(wǎng)AIGC內容標注、多媒體AIGC合成鑒定、人臉識別系統(tǒng)防AIGC攻擊、AIGC文章檢測等功能，可遏制因人工智能被惡用、濫用所帶來的不良影響。

基于強大的基礎通用人工智能安全能力和豐富的行業(yè)落地經(jīng)驗，瑞萊智慧開發(fā)了更加安全、可控的行業(yè)解決方案，成功在基礎設施、政府、金融等領域實現(xiàn)快速的產品化和商業(yè)化落地，已服務多個國家部委以及中國銀聯(lián)、中國工商銀行、中國建設銀行、華為等300余家頭部企業(yè)，服務政策大模型在北京市上線使用，累計獲得近百項國家級獎項和榮譽。

 瑞萊智慧CEO田天博士表示：“大模型在安全可控上的不足是其當前無法廣泛落地應用的根本原因，而人工智能不安全的開發(fā)和使用，則可能給人類的發(fā)展乃至生存帶來災難性的后果。相比過往其他領域的安全問題，人工智能安全風險更加本質也更加難克服?！?/span>

未來，瑞萊智慧將發(fā)揮前沿引領者角色，持續(xù)關注世界范圍內出現(xiàn)的前沿人工智能安全風險挑戰(zhàn)，沉淀技術能力和實踐經(jīng)驗，進一步創(chuàng)新和完善產品功能，加深立體化產品體系建設和產業(yè)化建設，為“人工智能+”賦能全行業(yè)全場景提供堅實安全保障。瑞萊智慧也將不斷推動通用人工智能安全能力的基礎設施化建設，與智算中心等算力基礎設施深度融合，護航中國通用人工智能高質量發(fā)展，加速中國人工智能產業(yè)向國際領軍地位邁進。