• 蘇北網
    當前位置:首頁>科技 >

    研究人員開發出聊天機器人使用攻擊性語言的算法

    時間 2022-04-24 08:27:40 來源:前瞻網  

    日,美國加州大學圣地亞哥分校的研究人員已經開發出算法,以消除在線機器人在社交媒體和其他地方產生的攻擊言論。

    聊天機器人使用攻擊語言是一個持續的問題。最有名的例子可能是微軟在2016年3月發布的Twitter聊天機器人Tay。在不到24小時內,Tay從Twitter上的對話中學,開始重復一些在推特上發表的最令人反感的言論,包括種族主義和對女不尊重的言論。

    研究人員說:“作為研究人員,我們正在全面考慮語言模型的社會影響,并解決相關問題。”

    研究人員和業界人士已經嘗試了幾種方法來清理機器人的語音,但都成效甚微。

    加州大學圣地亞哥分校的計算機科學家團隊首先將有攻擊的提示輸入一個預先訓練好的語言模型,讓它產生有攻擊預言。然后,研究人員對該模型進行了訓練,以預測該模型產生有攻擊內容的可能。他們稱此為“邪惡模型”。然后他們訓練了一個“好人模型”,這個模型被教導要避免所有被“邪惡模型”高度錄用的內容。

    研究驗證,“好人模型”將“有毒”內容清干凈的成功率達到23%。他們在2022年3月在線舉行的AAAI人工智能會議上展示了他們的工作。

    該研究論文題為"Leashing the Inner Demons: Self-Detoxification for Language Models",已發表在arXiv上。

    標簽: 研究人員 聊天機器人 使用攻擊性語言 開發出算法

    相關閱讀RELEVANT

    • 版權及免責聲明:

    內容搜集整理于網絡,不代表本站同意文章中的說法或者描述。文中陳述文字和內容未經本站證實,其全部或者部分內容、文字的真實性、完整性、及時性本站不做任何保證或者承諾,并且本站對內容資料不承擔任何法律責任,請讀者自行甄別。如因文章內容、版權和其他問題侵犯了您的合法權益請聯系郵箱:43 520 [email protected] 進行刪除處理,謝謝合作!

    车震视频免费爬爬爬,国产高清丝袜车震视频免费,韩国车震视频大全免费版下载,免费车床震视频大全在线,男女车震视频免费播放,免费男女车震视频,免费车震电影视频大全,免费车震野战视频,快手免费车震野战视频下载,免费车震自拍视频在线观看,日本真人免费车震视频