美國科技制裁名單(美國科技企業)

新浪科技訊北京時間5月29日上午消息，2022年底，負責打擊虛假信息的Meta工程團隊正準備推出一款耗時半年開發的事實核查工具。此前發生的一系列危機嚴重損害了Facebook和Instagram的信譽，也為監管機構打擊這些平臺創造了更多機會。面對這種情況，這個工具就顯得尤為重要。

新工具將允許美聯社、路透社等第三方事實核查機構和知名專家在有問題的文章頂部添加評論，以確認其可信度。

但知情人士透露，當Meta首席執行官馬克·扎克伯格宣布2023年為“效率年”時，這一雄心勃勃的計劃宣告結束。

Meta公布的裁員計劃涉及約2.1萬人。經過幾輪實施，Meta的信任和安全工作受到了很大影響。知情人士稱，這一事實核查工具很早就得到了高管的支持，并于今年早些時候進入測試階段，但由于裁員而被放棄。

Meta發言人尚未對特定領域的裁員發表評論，但通過電子郵件回復：“我們仍然專注于制定行業領先的誠信措施，并將繼續投資建設團隊和技術來保護我們的社區。”

看看科技行業，隨著企業通過緊縮支出和大規模裁員來應對宏觀經濟壓力和收入增長放緩，大量負責保護這些最受歡迎的“互聯網天堂”的人也被解雇。然而，此時正值網絡暴力猖獗、虛假信息泛濫、暴力內容激增之際。人工智能的爆炸性應用正在加劇這些問題。

在最近的財報電話會議上，科技高管都強調“少花錢，多做事”的理念，希望通過投入更少的資源來提高效率。Meta、Alphabet、亞馬遜和微軟在前幾年大規模擴張后都實施了數千名裁員。微軟首席執行官薩蒂亞·納德拉(SatyaNadella)最近也表示，他的公司將暫停為全職員工加薪。

科技公司大幅減少了負責信任、安全和人工智能倫理的團隊，這充分表明，盡管2024年美國總統大選季即將拉開帷幕，網絡上的各種噪音勢必會增加，但企業仍然更愿意滿足華爾街對效率的要求。在科技公司內部，AI道德團隊和信任與安全團隊分屬于不同的部門，但他們的目標都是減少公司產品和服務在現實世界中可能造成的危害。

“這是一場貓捉老鼠的游戲，施虐者通常會獲勝，”曾擔任谷歌和字節跳動信任與安全總監、現在擔任新聞聚合商的阿瓊·納拉揚(ArjunNarayan)說。將SmartNews應用于信任和安全業務，“你總是在追趕。”

但目前看來，在科技公司眼中，無論是信任與安全團隊還是人工智能倫理團隊，都是應該降低的成本。

知情人士稱，Twitter在11月基本上解散了人工智能道德團隊，只保留了一名員工，同時還裁掉了信任和安全部門15%的員工。今年二月，谷歌從一個旨在打擊錯誤信息、激進化和有毒內容的部門裁掉了三分之一的員工。據報道，Meta還在1月初終止了與約200名內容版主的合同。根據向美國勞工部提交的數據，該公司還裁減了Instagram健康在線部門至少16個職位，并裁減了信任、誠信和責任部門100多個職位。

今年3月，亞馬遜縮減了人工智能責任團隊的規模，微軟也解雇了整個道德和社會團隊的33,354人。據悉，這兩輪裁員使團隊人數從30人減至零。亞馬遜沒有發表評論，而微軟則提供了有關裁員的官方博客文章。

在亞馬遜的流媒體游戲部門Twitch，員工直到3月份才通過首席執行官安迪·賈西(AndyJassy)發布的不合時宜的內部帖子得知了自己的命運。

Jassy當時宣布在公司范圍內裁員9,000人，其中包括400名Twitch員工。知情人士稱，在400名員工中，約有50名負責監控網絡暴力、非法或有害行為。

在內容審核比以往任何時候都更加重要的情況下，亞馬遜的信任和安全團隊已經失去了大約15%的員工。

在給員工的電子郵件中，Twich首席執行官DanClancy沒有具體提及信任和安全團隊，但確認了更廣泛的裁員。事實上，他本人也是剛剛從賈西的帖子中得知了裁員的消息。

克蘭西在電子郵件中寫道：“我很遺憾，我以這種方式向所有人傳達了這個消息，而未能提前與受此影響的員工進行直接溝通。”

重新獲得信任很困難

Twitch信任和安全團隊的一位負責人表示，該部門剩余的員工感到“受到鞭打”，并擔心第二輪裁員。這位人士透露，此次裁員對團隊來說是一個重大打擊，Twitch負責處理人身威脅、暴力、恐怖組織和自殘問題的執法響應團隊也大幅縮減。

Twitch發言人尚未發表評論，只是在三月份發布了一篇官方博客文章宣布裁員。該博客文章沒有提及信任和安全或內容審核團隊。

SmartNews的Narayan表示，由于大公司在安全問題上的投入不夠，他們正在疲于應對源源不斷的惡意活動。隨著不當內容數量的增加，“信任侵蝕”成為他們不得不面對的問題。

“從長遠來看，重新獲得消費者信任將非常困難，”納拉揚補充道。

Meta和亞馬遜的裁員是為了應對投資者的需求以及收入和股價的大幅下跌，而Twitter的裁員則是因為公司易手。

去年10月，埃隆·馬斯克(ElonMusk)以440億美元完成對Twitter的收購后，幾乎就立即開始大規模裁員。曾擔任Twitter機器學習道德、透明度和問責團隊主管的魯曼·喬杜里(RummanChowdhury)表示，Twitter人工智能道德團隊原本有17人，裁員后只剩下1人。

喬杜里說，團隊成員的筆記本電腦被遠程關閉后才知道自己的情況。幾個小時后，他們收到了公司發來的電子郵件通知。

“我剛剛開始評估我們的員工并組建我們的人工智能紅隊，以便我們能夠道德地面對我們的模型并實施它們，”喬杜里說。“感覺就像我們都在昂首闊步，毯子被拿走了。”

喬杜里表示，他們的計劃包括開發“算法放大監控機制”，通過跟蹤選舉和政黨動態來了解“內容是否被不當放大”。

Chowdhury提到了2021年7月的一個項目，當時Twitter的人工智能團隊領導了業界首個算法偏差賞金競賽。他們邀請外部人士對其平臺進行偏見審計并將結果公開。

喬杜里擔心馬斯克“正在積極拋棄我們現在所做的一切”。

“現在沒有內部問責，”她說。“我們為兩個產品團隊提供服務，并確保幕后工作對平臺上的用戶是公平的。”

推特尚未發表評論。

廣告商也正在遠離聲譽風險增加的地方。

SensorTower的數據顯示，今年第一季度美國在Twitter上支出最多的10大類廣告商中，有6個類別的支出同比減少，合計減少了53%。該網站最近還因允許傳播暴力圖像和視頻而引發爭議。

聊天機器人的普及使問題變得更加復雜。這些人工智能模型與ChatGPT類似，使不良行為者可以輕松創建包含各種內容的虛假帳戶。來自艾倫人工智能研究所、普林斯頓大學和佐治亞理工學院的研究人員測試了ChatGPT的API，發現內容“毒性”最多可增加6倍，具體取決于企業分配給聊天機器人的功能。定位，例如是客戶服務代表還是虛擬助理。

監管機構也在密切關注人工智能不斷擴大的影響，以及公司縮減人工智能道德、信任和安全團隊的努力。聯邦貿易委員會律師邁克爾·阿特森在本月早些時候的一篇博客文章中指出了這一悖論。

“考慮到對新人工智能工具使用的擔憂，現在可能不是公司構建或部署此類工具來取代人工智能道德團隊的最佳時機，”阿特森寫道。“如果聯邦貿易委員會打電話詢問此事“如果你想讓我們相信你已經充分評估了風險并減輕了傷害，那么這些壓縮措施可能并不明智。”

風向標梅塔

多年來，科技行業經歷了漫長的牛市，為頂級互聯網平臺帶來了巨額資金，Meta也抓住了這個機會，成為許多專家眼中的道德和安全領導者。

該公司多年來一直在招募信任和安全團隊，其中許多人具有社會科學背景。他們希望這樣做，可以避免2016年美國總統大選重演。當時，Facebook正經歷大量錯誤信息，最終導致2018年的劍橋分析丑聞。該丑聞暴露了第三方如何非法使用Facebook用戶數據。

但到了2022年，一切都急轉直下：在Meta的廣告業務和股價遭受重創后，扎克伯格進入了緊縮模式，為那些抱怨該公司過于臃腫的投資者歡呼。

除了事實核查項目之外，研究人員、工程師、用戶設計專家和其他從事社會問題工作的員工也遭到了裁員。四名前Meta員工表示，專門處理虛假信息的團隊正在被削減。

去年11月Meta進行第一輪裁員之前，該公司已開始將誠信團隊整合為一個部門。據前員工稱，去年9月，Meta將處理社會問題的中央誠信團隊與處理廣告、垃圾郵件和虛假賬戶等商業問題的商業誠信團隊合并。

Meta信任與安全團隊的前員工表示，在接下來的幾個月里，隨著更廣泛的緊縮計劃席卷整個公司，他們的許多同事都生活在裁員的陰影之中，經理們也看不到自己的工作，這對Meta的利潤產生了哪些影響？

例如，不需要太多資源的項目可以得到批準，而旨在改變政策的長期項目則更難獲得支持。在這樣的系統下，員工更有可能從事可管理的任務，這樣他們就可以在六個月的績效評估中展示結果。

裁員前離職的Meta前項目經理拉維·艾耶(RaviIyer)表示，他認識的許多在設計和政策變化中發揮關鍵作用的人也在裁員中失去了工作，這比內容更重要。審核團隊的裁員更是令人痛心。

“我認為我們不應該理所當然地認為信任和安全團隊的萎縮必然會使平臺變得更糟，”現任南加州大學技術心理研究所所長的艾耶說。“但我發現，許多被解雇的人是最了解重新思考這些平臺的底層設計的人。如果平臺不打算投資調整已被證明有害的設計，那么我們都應該擔心。”

Meta發言人此前淡化了裁員對虛假信息部門的影響：“該團隊正在并入更廣泛的內容誠信團隊，該團隊規模更大，專注于整個公司的誠信工作。”

但知情人士表示，裁員之后，負責處理虛假信息的Meta員工確實減少了。

對于人工智能、誠信與安全以及內容審核領域的專業人士來說，就業前景似乎非常渺茫。

剛剛從社交媒體公司解雇的人表示，隨著公司繼續勒緊褲腰帶，他們可以申請的職位并不多。一位前Meta員工表示，他在面試微軟和谷歌的信任和安全職位后，突然被淘汰了。

一位Meta前員工表示，該公司信任度和安全性的下降可能會對規模較小的同行和初創公司產生影響，這些公司似乎“跟隨Meta進行了裁員”。

Twitter前人工智能道德負責人喬杜里表示，這些類型的工作肯定會成為裁員的目標，因為“它們不會讓產品變得更有利可圖”。

“我認為這是一個完全錯誤的框架，”她說。“但如果你的價值是公司不被起訴，或者人們不受到傷害，那么就很難證明你的價值。當我們的工作結束時，沒有鮮花和掌聲，但它可以創造一個安全有保障的社區。這可以創造長期的財務價值，但從每個季度的財務報告中很難衡量這背后的意義。”

一名前Twtich員工透露，公司信任和安全團隊中有人知道在哪里可以發現危險活動。這對于游戲行業至關重要，因為游戲本身就是一種“獨特的野獸”。

現在，很少有人參觀這些犯罪分子藏身、網絡欺凌活動猖獗的“黑暗、可怕的地方”。

更重要的是，沒有人確切知道情況會有多糟糕。

來自：新浪科技