ENT:歐盟委員會對 ChatGPT 的最新監管方向_人工智能是干嘛的

撰文：AnnaFell?nder，anch.AI的創始人、ETHICALAIGOVERNANCEGROUP委員會成員

2023年2月，歐洲議會AI倫理領域的顧問AnnaFell?nder在歐盟委員會官網發表了《ChatGPT’srapidentry–UrgentforthegovernmenttoappointanauthorityforresponsibleAI》，提出了關于為什么要對生成式AI進行監管的背景、原因和解釋。筆者認為，這篇文章很有可能代表了未來歐盟委員會對生成式人工智能的監管方向之一，我們看這篇，也主要是作為一個國際動向進行關注。

全文如下：

最近新發布的人工智能方案ChatGPT，以一種全新的方式挑戰著所有人。隨著生成式AI系統創造的機會，我們同時也面臨著具有歷史意義的十字路口：

瑞典官員已與歐盟委員會討論取締POW共識算法的問題:金色財經報道，netzpolitik.org最近發布的一份報告引用了通過信息自由法 (FOIA) 要求獲得的文件，該報告指出，瑞典官員已與歐盟委員會討論了取締pow共識算法的問題，其中一位未透露姓名的與會者辯稱，比特幣必須效仿以太坊的做法，轉向pos。通過這種方式，它將能夠顯著的降低功耗。根據DeFi公司戰略負責人Patrick Hansen的說法，這份令人擔憂的報告“主要是 FUD”，因為它指的是可追溯到 11 月和 2 月的較早的會議記錄和文件。

此前消息，Ripple 聯合創始人 Chris Larsen 和包括綠色和平組織在內的幾個環保組織最近發起了一項類似的活動，以促進極不可能的代碼更改。（u.today）[2022/4/22 14:40:14]

也就是，究竟是人工智能來控制人類，還是人類來控制人工智能。

歐盟委員Mairead McGuinness呼吁對加密貨幣進行全球監管:2月18日消息，歐盟負責金融服務、金融穩定和資本市場聯盟的委員Mairead McGuinness表示，歐盟對加密資產使用的增長并不擔心，但全球需要對該領域進行監管。McGuinness警告說，“如果我們不認真對待”，任何新的金融工具都可能導致巨大的問題。

McGuinness表示，歐洲已經在加密貨幣問題上取得了進展，布魯塞爾已經走在了前沿，同時承認該領域的提議需要關注未來。（Business Plus）[2022/2/18 10:01:15]

瑞典的企業和當局，需要對人工智能采取Ethicalapproach，也就是倫理學上的考量，但最重要的是，需要建立風險評估框架，來支撐這種發展，從而指導符合人類價值觀的人工智能解決方案的發展。

歐盟委員會提出發展數字技術的權利和原則:1月26日消息，歐盟委員會提出發展數字技術的權利和原則，數字技術措施旨在確保公平、安全的網絡環境。（金十）[2022/1/26 9:15:13]

此外，歐盟人工智能立法，對發展負責任的人工智能來說，指日可待，而政府迫切需要組建發展負責任的人工智能機構。

ChatGPT和其他生成式人工智能系統

首先，創造了人們內心期待已久的人工智能民主化，更多的人可以參與進來這次技術帶來的迭代，自己去創造由算法在歷史數據上生成的新內容。各個組織實現AI技術價值的門檻顯著降低，新的創新商業模式也層出不窮，能夠有效地加強客戶和人們的關系。

同時，所有個體和社會，每天都面臨著由于不受監管的人工智能解決方案，從而導致的道德和法律問題。其中一個原因是，人工智能模型的學習是基于歷史數據，而其中，很可能存在不必要的偏見，這種偏見，可能導致社會排斥和歧視，包括其他的違規行為。

歐盟委員會發言人稱 數字貨幣并不是貨幣:歐盟稱，正在密切關注比特幣，數字貨幣并非真正的貨幣；同時要求監管部門更新針對數字貨幣的警告。[2018/1/17]

比如說，當我們這些個體，批準自己數據在某種情況下被使用時，可能并不會意識到，當我們自己的數據與其他數據結合時，算法如何創造出侵犯個人隱私的見解。

注意：這對公司和各國政府來說，代價都很高，例如可能會撤回投資，或者導致聲譽受到損失。最近的案例表明，2021年，由于人工智能解決方案錯誤地指責接受父母保險的父母是欺詐。此外，還有個基于OpenAI的GPT-3的醫療聊天機器人被發出測試，其結果是建議病人自殺。

參考資料：GPT-3medicalchatbottellssuicidaltestpatienttokillthemselves|BoingBoing

生成式人工智能系統，比其他人工智能解決方案具備更高程度的道德風險暴露。其中一個原因是，生成式人工智能系統的使用往往是通過API進行的，這使得解決方案的透明度很低，并且，對它的發展難以控制。

同時，道德和法律方面的違規行為，通常發生得很微妙，也很突然，雖然這些違規行為可能會小到無法察覺，但是極有可能造成指數級的損失。

其中一個例子是深度造假，比如說，被用來操縱視頻或照片中的面孔和聲音。而要注意到的是，生成式人工智能模型通常以API的形式提供，這就可以使用戶更容易獲得和使用該技術，這可能會增加濫用的風險。

需要承認的是，基于API的生成性人工智能模型本身并沒有風險，但它們的使用方式和訓練的數據會使他們具備風險。

歐盟的人工智能立法，即《人工智能法案》，將于2024年正式生效。

《人工智能法案》的目標，是讓公民和消費者感到信任，并維護歐盟包括人權在內的價值基礎。歐盟委員會在《人工智能法》中提議，成員國必須任命或建立至少一個監督機構，負責確保「必要的程序得到遵循」。

隨著生成式人工智能系統逐步出現的巨大潛力，尤其是在醫療保健方面，例如正確診斷和優化疾病的治療，關鍵是，要有可用的風險評估框架，并任命一個負責任的機構。

人工智能的倫理框架，為所有部門創造了一個高度的創新環境。因此，有關機構迫切需要任命這一負責機構，并提供風險評估框架，以便瑞典企業和瑞典當局不會像GDPR那樣對人工智能法案缺乏警惕性。

https://futurium.ec.europa.eu/en/european-ai-alliance/blog/chatgpts-rapid-entry-urgent-government-appoint-authority-responsible-ai

Artificialintelligence:hugepotentialifethicalrisksareaddressed|News|EuropeanParliament(europa.eu)

Welcometoanch.AI-AIandEqualityinPublicAdministration-areportbyanch.AIandtheSwedishGenderEqualityAuthority.

Tags：人工智能ENTESSGPT人工智能是干嘛的PLENTYCOINTesslaMGPT幣

狗狗幣