英國機構警告智能聊天機器人可能帶來網絡風險
時間：2023-08-31 13:49:52
(相關資料圖)
參考消息網8月30日報道據路透社8月30日報道，英國官員正在警告機構組織注意把人工智能聊天機器人整合到業務中的風險，稱研究越來越多地顯示，機構組織可能被誘騙從事有害的任務。
在計劃于30日發布的兩則博客文告中，英國國家網絡安全中心（NCSC）稱，專家們尚未著手處理與可以模仿人類互動的算法——即所謂的“大語言模型”（LLM）——相關的潛在安全問題。
人工智能工具目前正在以聊天機器人方式實現一些早期運用，一些企業設想它們將不僅可以取代互聯網搜索，而且可以取代客戶服務工作和接聽銷售電話。
NCSC稱，這樣做可能帶來風險，尤其是如果此類模型被嵌入到機構組織業務所處理的其他要素中的時候。學者和研究人員已經多次找到了破壞聊天機器人的方法——通過給它們下達流氓指令或是欺騙它們繞過系統內置的防護措施。
例如，如果黑客恰到好處地組織其查詢提問，那么某家銀行啟用的人工智能機器人可能會被誘騙執行一筆未經授權的交易。
NCSC在其博客發布的一則文告中說：“機構組織在利用大語言模型搭建服務時需要保持審慎，就像它們在使用處于測試階段的產品或代碼庫的時候一樣。它們不會讓那種產品參與代表客戶進行交易的工作，而且想必也不會完全信任這樣的產品。同樣的審慎態度也適用于大語言模型。”（編譯/曹衛國）
相關稿件
讓針灸適宜技術走向國際——訪上海中醫藥大學附屬龍華醫院院長陳躍來
暴扣+激情2+1救不了男籃!李凱爾替補出戰僅9+3在場輸15分
王哲林上熱搜第一 連續空籃不進喬帥黑臉 男籃名宿解讀不用胡金秋
NVIDIA Grace處理器露出獠牙：AMD、Intel都看不到尾燈
濟南地鐵3號線二期工程最新進展！臨港站-機場南站盾構區間實現雙線掘進
緩解信用收縮、修復融資渠道 “第二支箭”延期擴容后民企債券支持工具累計發行325.68億元
對得起隊友嗎？王哲林上場12分鐘正負值-17 辣眼睛表現治好低血壓
中泛控股(00715.HK)：上半年股東應占綜合虧損7.04億港元
亞泰科技2023年上半年凈利187.57萬 同比增加102.3%
