美國總統(tǒng)拜登

科技訊 北京時間4月11日消息，由于人們越來越擔心ChatGPT等人工智能工具可能被用于歧視或傳播有害信息，美國拜登政府已經開始研究是否需要對這些工具進行檢查。

(資料圖片)

作為走向潛在監(jiān)管的第一步，美國商務部周二正式公開征求意見，就其所謂的問責措施請求人們發(fā)表意見，包括存在潛在風險的新人工智能模型在發(fā)布前是否應該通過一項認證程序。這些意見將在未來60天內被接受。

美國政府此刻采取這一行動，適逢人工智能工具的使用正在蓬勃發(fā)展之際。這些工具可以快速生成類似人類的文字、圖像、視頻等。一些分析師預計，人工智能實驗室OpenAI開發(fā)的ChatGPT用戶已經達到1億，比歷史上任何消費類應用都要快。

美國商務部下屬國家電信和信息管理局發(fā)出了征求意見的請求，其局長艾倫·戴維森(Alan Davidson)表示：“看到這些工具在相對初期階段就能做到這些，真是令人驚訝。我們知道，我們需要設置一些護欄，以確保它們得到負責任地使用?！?/p>

戴維森稱，這些意見將被用來協(xié)助向美國政策制定者提出關于如何對待人工智能的建議。他補充說，國家電信和信息管理局的法律職責是就科技政策為總統(tǒng)提供建議，而不是撰寫或執(zhí)行法規(guī)。

目前，科技行業(yè)和政府官員已經對人工智能的一系列潛在危害表示擔憂，包括利用該技術犯罪或傳播虛假信息。上月，科羅拉多州民主黨參議員邁克爾·班納特(Michael Bennet)寫信給幾家人工智能公司，詢問公共實驗的事情，孩子的安全是他最關心的問題。在這些實驗中，聊天機器人向冒充年輕人的用戶提供了令人不安的建議。

“關于人工智能可能帶來的爆炸性好處和壞處，人們正在進行非?；钴S的討論，”康涅狄格州民主黨參議員理查德·布盧門撒爾(Richard Blumenthal)在接受采訪時說，“對國會來說，這是一個終極挑戰(zhàn)，一個高度復雜和技術性的挑戰(zhàn)，事關重大，非常緊迫?！?/p>

拜登總統(tǒng)上周在白宮與一個科學家顧問委員會討論了這個話題。當一名記者問及這項技術是否危險時，拜登表示：“仍有待觀察。有可能有危險。”這個委員會中的成員包括微軟和谷歌的代表。他們和其他發(fā)布人工智能系統(tǒng)的公司表示，他們正在不斷更新安全護欄，比如通過編程讓聊天機器人不回答某些問題。

與此同時，包括埃隆·馬斯克(Elon Musk)在內的科技領袖最近呼吁暫停開發(fā)比GPT-4更強大的系統(tǒng)六個月。GPT-4是OpenAI在大約一個月前發(fā)布的新版聊天機器人。他們警告稱，OpenAI與谷歌等競爭對手之間正在展開的競賽，沒有對潛在風險進行充分地管理和規(guī)劃。

美國司法部反壟斷部門表示，它正在監(jiān)測AI領域的競爭。美國聯(lián)邦貿易委員會則警告企業(yè)，它們可能會因對人工智能產品做出虛假或未經證實的聲明而面臨法律后果。(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱科技。想看深度報道，請微信搜索“科技”。