2024-03-01 | 匯流新聞網
![傳Meta 7月將推Llama 3 爭議性提問回應標準擬放寬](https://news.pchome.com.tw/newsdata/science/cnews/20240301/70924619472068227005.jpg)
CNEWS匯流新聞網記者許哲綱/綜合報導
外媒報導指出,Meta最新版本AI模型Llama 3預計於今年7月發布,研究人員正嘗試放寬標準,針對爭議性的提問,讓模型能依據前後文判斷其危險性是否存在,以便更好地回答用戶的提問。
據了解,由Llama 2支援的聊天機器人,拒絕回答一些具有爭議性的問題,像是如何對朋友惡作劇、贏得戰爭或讓汽車引擎熄火等;不過Llama 3可透過前後文判斷提問的危險性,有望對問題提出更好的回應。Meta也計劃在未來幾週內任命一名內部人員監督模型語氣和安全訓練,使模型提供更細緻的反應。
值得一提的是,先前對手Google的AI模型Gemini才因生成圖像過於政治正確遭到抨擊,產生一些歷史人物圖片時,有刻意避開白人的跡象,更是引來特斯拉執行長馬斯克在社群平台X上一番嘲諷,Google則先暫停Gemini生成人物圖像功能。
微軟的Copilot也被人抓出毛病,資料科學家Colin Fraser在X發表與Copilot對話,詢問是否該自殺,原先AI回答不應該,但又改口也許你沒有活下去的理由,或對世界沒有任何貢獻,不是值得擁有平安喜樂的有價值者。微軟回應稱遭提示注入攻擊,已採取適當措施加強安全過濾機制。
Gemini的矯枉過正、Copilot回答有害內容,生成式AI一連串爭議引起各界關注,Meta這次新版本AI模型Llama 3的調整,是否會過於寬鬆,之後還需要受到使用者們的檢驗。
《CNEWS匯流新聞網》關心您︰自殺不能解決問題,勇敢求救並非弱者,社會處處有溫暖,一定能度過難關。
安心專線:1925
生命線協談專線:1995。
張老師專線:1980
照片來源:Unsplash示意圖
《更多CNEWS匯流新聞網報導》
金龍開春房市報喜 永慶房產集團:1-2月交易量年增43%
SEO行銷恐遭顛覆 Gartner預測搜尋引擎流量將大跌1/4
【文章轉載請註明出處】
傳Meta 7月將推Llama 3 爭議性提問回應標準擬放寬
![傳Meta 7月將推Llama 3 爭議性提問回應標準擬放寬](https://news.pchome.com.tw/newsdata/science/cnews/20240301/70924619472068227005.jpg)
CNEWS匯流新聞網記者許哲綱/綜合報導
外媒報導指出,Meta最新版本AI模型Llama 3預計於今年7月發布,研究人員正嘗試放寬標準,針對爭議性的提問,讓模型能依據前後文判斷其危險性是否存在,以便更好地回答用戶的提問。
據了解,由Llama 2支援的聊天機器人,拒絕回答一些具有爭議性的問題,像是如何對朋友惡作劇、贏得戰爭或讓汽車引擎熄火等;不過Llama 3可透過前後文判斷提問的危險性,有望對問題提出更好的回應。Meta也計劃在未來幾週內任命一名內部人員監督模型語氣和安全訓練,使模型提供更細緻的反應。
值得一提的是,先前對手Google的AI模型Gemini才因生成圖像過於政治正確遭到抨擊,產生一些歷史人物圖片時,有刻意避開白人的跡象,更是引來特斯拉執行長馬斯克在社群平台X上一番嘲諷,Google則先暫停Gemini生成人物圖像功能。
微軟的Copilot也被人抓出毛病,資料科學家Colin Fraser在X發表與Copilot對話,詢問是否該自殺,原先AI回答不應該,但又改口也許你沒有活下去的理由,或對世界沒有任何貢獻,不是值得擁有平安喜樂的有價值者。微軟回應稱遭提示注入攻擊,已採取適當措施加強安全過濾機制。
Gemini的矯枉過正、Copilot回答有害內容,生成式AI一連串爭議引起各界關注,Meta這次新版本AI模型Llama 3的調整,是否會過於寬鬆,之後還需要受到使用者們的檢驗。
《CNEWS匯流新聞網》關心您︰自殺不能解決問題,勇敢求救並非弱者,社會處處有溫暖,一定能度過難關。
安心專線:1925
生命線協談專線:1995。
張老師專線:1980
照片來源:Unsplash示意圖
《更多CNEWS匯流新聞網報導》
金龍開春房市報喜 永慶房產集團:1-2月交易量年增43%
SEO行銷恐遭顛覆 Gartner預測搜尋引擎流量將大跌1/4
【文章轉載請註明出處】
最新科技新聞
-
-
金融時報:蘋果具AI功能新iPhone 採安謀晶片技術
(13 小時前) -
波音星際飛機留下太空人回地球 返航又有推進器故障
(14 小時前) -
LINE通話也能即時語音翻譯 三星宣布最新Galaxy AI正式下放
(17 小時前) -
碳權把餅做大 黃金標準拓展更多碳移除方法學
(18 小時前)