The Download: supercharged scams and studying AI healthcare

Thomas Macaulay

View Original ↗
AI 導讀 technology AI 重要性 3/5

AI 讓詐騙規模化,同時大量進駐醫療——卻無研究確認它改善了病人健康。

  • AI 詐騙工具從釣魚郵件擴張到深偽影片,攻擊規模化且成本趨近於零。
  • 醫療 AI 準確但無研究確認改善病人健康,評估嚴重落後於部署速度。
  • DeepSeek V4 宣稱超越頂尖閉源模型;Meta 裁員 8,000 人抵銷 AI 投資。

生成式 AI(Generative AI)讓詐騙成本崩跌、速度暴增,網路犯罪正進入全新紀元;同一時間,AI 讀片、記病歷、篩患者在醫療院所全面鋪開,卻沒有一項研究能確切回答「這讓病人活得更好了嗎」。MIT Technology Review 本期精選,聚焦兩個相互呼應的 AI 現實:一個讓惡意攻擊更有效率,一個讓善意部署更難被評估。

生成式 AI 讓網路詐騙速度更快、成本更低

2022 年底 ChatGPT 問世後,生成式 AI 展示出製造「類人文字」的驚人能力,網路犯罪份子隨即嗅到商機。起初是用 LLM(大型語言模型)撰寫釣魚郵件,繞過傳統垃圾郵件過濾器;很快地,攻擊者的工具箱擴張到超現實的深偽(Deepfake)語音影片、自動化漏洞掃描,以及根據個人社群媒體資料量身定制的社交工程攻擊。

今天的 AI 詐騙已不是「有語法錯誤的奈及利亞王子信件」。生成模型可以即時模仿特定人物的語氣與風格,製作出連當事人親友都難以辨識的假視頻;自動化工具可以在幾分鐘內掃描企業員工名單,批量生成個人化釣魚郵件。AI 把過去需要大量人力的攻擊,壓縮成幾乎零成本的規模化作業,讓每一次攻擊波次的邊際成本趨近於零。

對於防禦方而言,問題不只是技術層面。許多組織現在面臨的是純粹的攻擊量——AI 讓犯罪份子可以在短時間內發動遠超人力所能回應的波次。MIT Technology Review 把這個現象列入「現在最值得關注的 AI 十大議題」,並警告:隨著更多犯罪集團採用 AI 工具、模型能力持續提升,情況只會繼續惡化,防禦方的壓力將愈來愈難以消化。

醫療 AI 的準確不等於對病人真正有益

醫療 AI 的部署速度已遠超出人們對它的理解。醫師在用 AI 工具自動記錄問診筆記,演算法在患者病歷中自動標記高風險族群,AI 系統協助判讀 X 光與其他影像檢查。這些應用愈來愈普遍,許多研究也顯示這些工具能給出準確的結果。

MIT Technology Review 記者 Jessica Hamzelou 提出了一個更根本的問題:準確,不等於對病人有幫助。目前的研究大多只在驗證模型「能不能做到」,而非「做了之後病人有沒有更健康」。AI 旗標高風險患者、醫師跟進處置——這段因果鏈有多長?有多少旗標是誤報而浪費了醫療資源?患者的長期健康指標有沒有改變?這些問題目前幾乎沒有嚴謹的大型隨機試驗來回答。

更根本的困難在於,「健康結果」(health outcomes)的追蹤本身極為複雜——需要長時間跟蹤、龐大資料集,以及能排除干擾變量的方法論設計。而 AI 工具的鋪開速度,已遠遠跑在嚴謹評估研究的前面。Hamzelou 的結論並不是說這些工具有害,而是:我們還不知道它是否真的有益,而這個問題遠比「準不準確」更重要。醫療 AI 的下一個考驗,不是讓模型更聰明,而是讓研究追上部署的腳步。

DeepSeek、Meta 裁員:本週十大科技快訊

MIT Technology Review 本期十大必讀,以下是幾則高度值得關注的動態:

DeepSeek 推出 V4:中國 AI 公司 DeepSeek 發布了 DeepSeek-V4 預覽版,宣稱是目前最強大的開源平台,效能比肩 OpenAI 和 DeepMind 的頂尖閉源模型,並已針對華為晶片技術進行適配。在中美 AI 角力的高度緊張背景下,這個時間點的發布格外敏感。

Meta 裁員約 8,000 人:為抵銷龐大的 AI 投資支出,Meta 預計在 5 月 20 日宣布裁撤約 10% 員工。這份消息與反 AI 抗議活動持續升溫的背景同步出現,顯示出 AI 軍備競賽與勞動力重組之間難以迴避的結構性張力。

多國加緊管制兒童使用社群媒體:挪威即將執行年齡限制禁令,菲律賓可能跟進,美國也出現要求將 AI 趕出校園的聲音。挪威首相 Jonas Gahr Støre 說:「我們希望讓孩子擁有真正的童年,玩耍、友情和日常生活不應被演算法與螢幕佔據。」

美國指控中國大規模竊取 AI 技術:白宮備忘錄聲稱中國企業正在剽竊美國 AI 模型,北京稱此指控是「誹謗」。中美 AI 博弈的地緣政治緊張局勢,已全面蔓延至技術產業。

OpenAI 把 GPT-5.5 開放給所有用戶:儘管存在網路安全疑慮,OpenAI 仍選擇廣泛公開新模型,以此和更謹慎的 Anthropic 做出市場差異化。新模型在程式碼生成與運算效率上有明顯提升。Elon Musk 與 Sam Altman 的訴訟案也在庭上揭露了多項不利於雙方的內部秘密,持續發酵。

頂尖 AI 免費使用的時代正在終結:各大 AI 實驗室面臨愈來愈大的盈利壓力,免費開放高階模型的策略難以為繼,AI 作為公共財的短暫窗口或許正在關閉。

NASA 鎖定木星衛星歐羅巴,搜尋地外生命跡象

相較於 AI 的塵囂,這則新聞帶來一點宇宙尺度的視野。

木星(Jupiter)的第四大衛星歐羅巴(Europa)表面覆蓋著厚達數十公里的冰層,冰層之下藏有一片液態鹹水海洋,體積遠超地球所有海洋的總和,且受到木星引力潮汐加熱提供能量。過去幾十年的觀測顯示,歐羅巴冰面有水蒸氣噴發的痕跡,冰層下可能存在有機分子所需的化學元素——這些條件指向一個非凡的可能性:生命或許在冰封的深海中等待被發現。

NASA 目前正推進一項繞飛任務,搜尋歐羅巴存在生命條件的化學信號——有機碳、鹽分、能量循環的跡象。任務目標不是找到外星人,而是確認那片深埋冰下的海洋是否具備維持微生物生命的基本條件。如果歐羅巴的海床存在類似地球深海熱泉的環境,微生物存活在理論上並非不可能。這是人類對地外生命想像從「第二顆地球」擴展至更陌生、更極端環境的重要一步。

AI 的能力提升,在詐騙與醫療兩條線上都跑在人類理解它的速度之前——這才是 2026 年 AI 最值得戒慎的共同主題。

Abstract

This is today’s edition of The Download, our weekday newsletter that provides a daily dose of what’s going on in the world of technology. We’re in a new era of AI-driven scams When ChatGPT was released in late 2022, it showed how easily generative AI could create human-like text. This quickly caught the eye of…