財聯社8月31日訊（編輯 卞純）英國官員日前警告公司不要將人工智能（AI）聊天機器人整合到他們的業務中，稱越來越多的研究表明，它們可能被誘騙執行有害任務。
英國國家網絡安全中心（NCSC）在周三發表的兩篇博客文章中表示，專家們尚未掌握與可以生成類似人類互動的算法（大型語言模型）相關的潛在安全問題。
人工智能工具目前正以聊天機器人方式實現一些早期運用，一些人設想，聊天機器人不僅可以取代互聯網搜索，還會取代客戶服務工作和電話銷售。
【資料圖】
NCSC表示，這樣做可能帶來風險，尤其是如果此類模型被嵌入公司的重要業務流程時。學者和研究人員已經多次發現，如果輸入惡意指令或欺騙它繞過內建的防護機制，就可以擾亂聊天機器人。
例如，如果黑客正確下達指令，那么銀行部署的AI聊天機器人可能會被誘騙執行一筆未經授權的交易。
“公司在利用大語言模型搭建服務時需要小心，就像它們在使用處于測試階段的產品或代碼庫的時候一樣。”NCSC表示。“它們不會讓那種產品參與代表客戶進行交易的工作，而且也不會完全信任這樣的產品。同樣的審慎也適用于大語言模型。”
AI安全成全球關注焦點
眼下，世界各國政府都在努力應對大語言模型的崛起，比如OpenAI的ChatGPT，企業正在將其納入廣泛的服務中，包括銷售和客戶服務。人工智能的安全影響也成為人們關注的焦點，美國和加拿大當局表示，他們已經看到黑客采用了這項技術。
路透社/益普索最近的一項調查發現，許多企業員工都在使用ChatGPT這樣的工具來幫助完成基本任務，比如起草電子郵件、總結文件和進行初步研究。
約10%的受訪者表示，他們的老板明確禁止使用外部人工智能工具，而四分之一的人不知道他們的公司是否允許使用這項技術。
網絡安全公司RiverSafe的首席技術官Oseloka Obiora表示，如果企業領導人未能引入必要的檢查，將人工智能融入商業實踐將產生“災難性后果”。
“高管們應該三思，而不是盲目追隨最新的人工智能趨勢。”他稱。“評估收益和風險，并實施必要的網絡保護，以確保公司免受傷害。”
關鍵詞：
新聞發布平臺 |科極網 |環球周刊網 |tp錢包官網下載 |中國創投網 |教體產業網 |中國商界網 |萬能百科 |薄荷網 |資訊_時尚網 |連州財經網 |劇情啦 |5元服裝包郵 |中華網河南 |網購省錢平臺 |海淘返利 |太平洋裝修網 |勵普網校 |九十三度白茶網 |商標注冊 |專利申請 |啟哈號 |速挖投訴平臺 |深度財經網 |深圳熱線 |財報網 |財報網 |財報網 |咕嚕財經 |太原熱線 |電路維修 |防水補漏 |水管維修 |墻面翻修 |舊房維修 |參考經濟網 |中原網視臺 |財經產業網 |全球經濟網 |消費導報網 |外貿網 |重播網 |國際財經網 |星島中文網 |手機測評 |品牌推廣 |名律網 |項目大全 |整形資訊 |整形新聞 |美麗網 |佳人網 |稅法網 |法務網 |法律服務 |法律咨詢 |成報網 |媒體采購網 |聚焦網 |參考網
亞洲資本網 版權所有
Copyright © 2011-2020 亞洲資本網 All Rights Reserved. 聯系網站：55 16 53 8 @qq.com
