神譯局是36氪旗下編譯團隊，關注科技、商業(yè)、職場、生活等領域，重點介紹國外的新技術、新觀點、新風向。
編者按：微軟公司正加速推進人工智能產(chǎn)品，引領 AI 潮流，最新發(fā)布了全面接入 GPT-4 版的 Office 全家桶，但此舉是明智的嗎？在大規(guī)模面向全球用戶推出人工智能產(chǎn)品方面應該考慮哪些問題？而就在微軟 Office 進行全面 AI 升級之前，他們卻解雇了人工智能（AI）部門的整個社會道德倫理團隊，不再設立專門的團隊來確保 AI 原則和產(chǎn)品設計緊密相關。本文來自翻譯，希望能對你有所啟示。
(資料圖)
綜合外媒報道，微軟正在推進今年 1 月宣布的裁員 1 萬人計劃，解雇了整個 AI 社會道德倫理團隊。
微軟的員工表示，此舉導致微軟沒有一個專門的團隊來負責將人工智能原則與產(chǎn)品設計緊密結(jié)合，而目前該公司正在引領 AI 發(fā)展潮流，讓人工智能工具成為主流。
微軟仍然保持著一個專門負責人工智能的團隊，負責制定規(guī)則和制度來更好地管理公司的人工智能計劃。該公司表示，盡管最近在推進萬人裁員計劃，但其對應人工智能責任工作方面的整體投資仍在增加。
對于此次裁員，該公司在一份聲明中強調(diào)，將會繼續(xù)投資和開發(fā)負責任的人工智能：“微軟一直致力于安全、負責任地開發(fā)人工智能產(chǎn)品和用戶體驗，并通過人員配置、梳理流程和建立良好的合作伙伴關系來實現(xiàn)這一目標。微軟 Office of Responsible AI 團隊在過去 6 年時間內(nèi)快速擴充人員，和其它微軟部門同事們共同致力于 AI 人工智能項目落地。微軟感謝 Office of Responsible AI 所作出的巨大貢獻，并將繼續(xù)推進負責任的人工智能發(fā)展?！?/p>
員工表示，Office of Responsible AI 在確保公司人工智能原則在產(chǎn)品設計中得到實際體現(xiàn)方面發(fā)揮了關鍵作用。
“人們看到 Office of Responsible AI 提出的原則，會說，‘我不知道這是如何應用的，’”一名前員工表示?！拔覀兊墓ぷ骶褪窍蛩麄冋故?，并在沒有規(guī)則的領域建立規(guī)則?！?/p>
近年來，該團隊設計了一款名為“判斷召喚”（Judgment Call）的角色扮演游戲，幫助設計師預見人工智能可能帶來的潛在危害，并在產(chǎn)品開發(fā)過程中進行充分討論。這是團隊公開發(fā)布的“負責任創(chuàng)新工具包”（responsible innovation toolkit）的一部分。
最近，該團隊一直在努力識別微軟在其整套產(chǎn)品中采用 OpenAI 技術所帶來的風險。
AI 社會道德團隊在 2020 年達到最大規(guī)模，當時大約有 30 名員工，其中包括工程師、設計師和哲學家。10 月，作為重組的一部分，該團隊被裁減至約 7 人。
在重組后的一次團隊會議上，人工智能公司副總裁約翰·蒙哥馬利（John Montgomery）告訴員工，公司領導已經(jīng)下達指示，要迅速推動產(chǎn)品面向市場。根據(jù)媒體獲得的會議音頻，他說：“微軟首席技術官凱文·斯科特（Kevin Scott）和首席執(zhí)行官薩蒂亞（Satya Nadella）的壓力非常大，他們要把這些最新的開放式 AI 模型和后續(xù)模型以非?？斓乃俣韧葡蚩蛻羰种小！?/p>
蒙哥馬利說，因為公司面臨這種產(chǎn)品發(fā)布的壓力，團隊的大部分成員將被分配到其他部門幫忙。
AI 社會道德團隊的一些成員進行了反擊，其中一位員工在電話中說：“我大膽地要求你重新考慮這個決定，這個團隊一直深切關注的是產(chǎn)品如何影響社會以及產(chǎn)品所產(chǎn)生的負面影響，這些影響非常重要。”
蒙哥馬利拒絕了，“我能重新考慮嗎？我想我不會的，”他說?！耙驗椴恍业氖?，兩種選擇所面對的壓力是一樣的。你沒有站在我的角度思考問題，也許你應該對此心存感激?！?/p>
不過，在向員工解答時，蒙哥馬利表示，這支團隊不會被辭退。
他說：“這并不是說這個團隊日后會消失，相反它是在進化和成長。”“它正朝著將更多精力放在構建服務和軟件的各個產(chǎn)品團隊的方向發(fā)展，這確實意味著某些中心正在下放其能力和責任?！?/p>
AI 社會道德團隊的大多數(shù)成員都被調(diào)到了微軟的其他部門。剩下的成員表示，規(guī)?？s小以后，很難實施他們雄心勃勃的計劃。
大約五個月后，也就是 3 月 6 日，剩下的員工被告知在北美時間上午 11：30 參加 Zoom 電話會議，聽取蒙哥馬利的“重要業(yè)務更新會議”。在會議期間，他們被告知 AI 社會道德倫理團隊最終被解散了。
一名員工表示，此舉會給用戶體驗和人工智能產(chǎn)品的整體設計帶來損失。他解釋說：“最糟糕的是，我們這樣做讓公司和使用產(chǎn)品的人都面臨風險?！?/p>
這場沖突凸顯了科技巨頭之間持續(xù)存在的緊張關系，這些巨頭建立了多個部門，致力于讓自己的產(chǎn)品更具社會責任感。在最好的情況下，它們可以幫助產(chǎn)品團隊預測潛在的技術風險，并在發(fā)布之前能夠完全解決這些風險。
但他們也有責任在組織內(nèi)部說“不”或“讓產(chǎn)品開發(fā)速度降低一點”，AI 道德社會團隊會強調(diào)可能會給公司帶來法律麻煩的風險，而通常這些是公司開發(fā)部門不想聽的事情，由此產(chǎn)生的摩擦有時會引起公眾的關注。
2020 年，谷歌解雇了人工智能道德倫理研究員蒂姆尼特·格布魯（Timnit Gebru），因為她發(fā)表了一篇在人工智能語言模型中存在偏見的危險的論文，該模型在兩年后迅速流行起來。由此引發(fā)的憤怒導致該部門多名高層領導離職，并降低了該公司在人工智能道德倫理問題上的可信度。
AI 社會道德倫理團隊的成員表示，他們通常會盡力支持產(chǎn)品開發(fā)。但他們也說，隨著微軟開始專注于比競爭對手更快地推出人工智能產(chǎn)品，該公司的領導層對團隊擅長的長期思考不那么重視了。
這是一個值得仔細審視的事情。一方面，微軟現(xiàn)在可能有一個千載難逢的機會，可以在搜索、生產(chǎn)力軟件、云計算和其他巨頭競爭的領域?qū)雀璁a(chǎn)生重大威脅。當微軟重新推出人工智能必應產(chǎn)品時，該公司告訴投資者，在搜索領域，它每從谷歌那里奪走 1% 的市場份額，就會帶來 20 億美元的年收入。
這種潛力有力地解釋了微軟迄今為止已向 OpenAI 投資 110 億美元的原因，目前微軟正在加緊將這家初創(chuàng)公司的技術整合到其商業(yè)帝國的每個角落。它似乎取得了一些初步的成功：該公司上周表示，必應現(xiàn)在有 1 億日活躍用戶，其中三分之一是在使用 OpenAI 的技術重新推出搜索引擎后新增的。
另一方面，參與人工智能開發(fā)的每個人都默認，這項技術會帶來巨大的、可能存在的風險，無論是已知的還是未知的。科技巨頭們努力發(fā)出信號，表明他們正在認真對待這些風險，即使在社會道德倫理團隊被解散之后，僅微軟就仍有三個不同的團隊在這個問題上開展工作。但考慮到利害關系，對專注于道德團隊的任何削減似乎都值得注意。
道德和社會團隊被淘汰之際，其剩下的員工正將注意力集中在他們可能面臨的最大挑戰(zhàn)上：預測當微軟向全球受眾發(fā)布 OpenAI 支持的工具時會發(fā)生什么。
去年，該團隊寫了一份備忘錄，詳細介紹了 Bing Image Creator 相關的品牌風險。Bing Image Creator 使用 OpenAI 的 DALL-E 系統(tǒng)根據(jù)文本提示創(chuàng)建圖像。去年 10 月，這款圖像工具在少數(shù)幾個國家推出，成為微軟與 OpenAI 首次公開合作的項目之一。
雖然文本轉(zhuǎn)圖像技術已經(jīng)被證明非常受歡迎，但微軟的研究人員正確地預測到，任何人都可以輕松地復制他們的風格，這也可能威脅到藝術家的生計。
研究人員在備忘錄中寫道：“在測試必應 Image Creator 時，我們發(fā)現(xiàn)，只要輸入藝術家的名字和媒介（繪畫、印刷品、攝影或雕塑），生成的圖像就幾乎不可能與原作區(qū)分開?！?/p>
他們補充說：“藝術家及其財務利益相關者的品牌受損風險，以及可能面臨的藝術家投訴和公眾的負面反應對微軟造成的負面公關風險是值得引起重視的，足以在損害微軟品牌之前要求糾正?！?/p>
此外，去年 OpenAI 更新了服務條款，賦予用戶“使用 DALL-E 創(chuàng)建的圖像的完全所有權”。此舉讓微軟的道德與社會團隊感到擔憂。
他們在備忘錄中寫道：“如果人工智能圖像生成器復制了作品圖像，那么允許在線用戶對生成的圖像擁有完全所有權，在道德上是可疑的?！?/p>
微軟研究人員制定了一系列應對策略，包括阻止必應 Image Creator 用戶使用在世藝術家的名字作為“提示”，以及創(chuàng)建一個市場出售藝術家的作品，如果有人搜索他們的名字，這些作品就會顯示出來。
員工們表示，這兩種策略都沒有實施，但 Bing Image Creator 還是進入了測試階段。
微軟表示，該產(chǎn)品在發(fā)布前進行了修改，以解決文件中提出的問題，并督促社會道德倫理團隊進行了額外完善。
但有關這項技術的法律問題仍未解決。2023 年 2 月，蓋蒂圖片公司（（Getty Images））對 AI 藝術生成器 Stable Diffusion 的制造商 Stability AI 提起訴訟。蓋蒂指責這家人工智能初創(chuàng)公司不當使用 1200 多萬張圖像。
這些指控與微軟自己的人工智能倫理學家提出的擔憂相呼應。“可能很少有藝術家會同意讓他們的作品被用來測試，而且很多人可能還不知道生成技術是如何在幾秒鐘內(nèi)讓他們的作品產(chǎn)生變化的，”員工們?nèi)ツ陮懙馈?/p>
譯者：Araon_
關鍵詞：
