由人民網(wǎng)主辦的“智融未來——2023人工智能成果展示會”近日在武漢精彩演繹。展示會上，來自傳播內容認知全國重點實驗室的相關負責人介紹了生成式人工智能合規(guī)性評估體系和語料庫的建設情況。

目前，主流價值語料庫的建設取得了階段性進展，已完成3000多萬篇基礎語料、5萬多道問答語料的建設工作。相關工作成果助推了國產人工智能大模型的安全、規(guī)范和可持續(xù)發(fā)展，為生成式人工智能領域提供了更多的規(guī)范和參考。

為何要群力群策建設這樣一個主流價值語料庫？人民日報社傳播內容認知全國重點實驗室首席科學家張勇東在接受人民網(wǎng)采訪時表示，在人工智能時代，媒體的重要職責之一就是保證意識形態(tài)的安全。當前，人工智能大模型已經成為一種生成式信息傳播工具，因此對于大模型價值觀的訓練是必要的。“訓練人工智能大模型的過程就像培養(yǎng)一個小孩，你從小怎樣培養(yǎng)他，在什么環(huán)境下去培養(yǎng)他，他將來就成為什么樣的人?！敝髁髅襟w建立符合中國人自己價值觀的語料庫，就是對其“成長環(huán)境”的一種塑造。

當前，生成式人工智能技術（AIGC）發(fā)展迅猛，不僅能夠應用于文字，更是在視頻、音頻等多領域實現(xiàn)突破。那么，媒體行業(yè)在利用AIGC技術提高生產力的同時，如何防范別有用心者用其制造假新聞，傳播假消息？

張勇東認為，保證新聞的真實性，一直以來都是媒體的重要職責。人工智能技術生成的內容偽裝性和欺騙性都很強，的確有可能會導致更多的虛假內容產生。“因此，我們要用AI對抗AI?！被谝恍┓烙匀斯ぶ悄芗夹g，首先判斷信息內容是否為人工智能技術生成，向用戶發(fā)出預警。另外，隨著主流價值語料庫的規(guī)模不斷擴大，還能夠通過人工智能技術將存疑信息與語料庫內數(shù)據(jù)進行對比，從而幫助用戶判斷出信息是否與事實相符，若為謠言，還能夠列舉其中哪些信息點是錯誤的。

據(jù)了解，由傳播內容認知全國重點實驗室主導，與中國科學技術大學、合肥綜合性國家科學中心人工智能研究院聯(lián)合推出的AI生成內容檢測工具——AIGCX，可快速區(qū)分機器生成文本與人工生成文本，目前對中文文本檢測的準確率已超過90%。

分享讓更多人看到