Anthropic創辦人之一Dario Amodei(左）。(路透社)
AI發展愈快，所暴露的危機愈大。從近日業內專家乃至企業領袖接連表態，已可窺見端倪。Anthropic創辦人之一Dario Amodei接受《經濟學人》總編輯訪問時，未有直面AI公司是否應無條件服從五角大樓、其用於大規模監控及自主武器的風險，及Anthropic對軍事用途所設定的限制。主持人開門見山以委內瑞拉及伊拉克的「行動」詢問，他則以公司「只是提供服務」、無權過問相關決定為由，輕輕帶過。沒錯，即使AI或其他技術只是被當作工具使用，工具本身也可以說是中立的，即所謂「技術中立」(technology neutrality)。而這正是當前人工智能發展的陰暗面：技術中立究竟有沒有邊界？企業又能否以「只是提供服務」為由，撇開自身的倫理責任？
自從今年7月Hugging Face公布，曾發生一次由「自主AI代理系統」入侵，取得權限及執行逾17,000次「自主」行動之後，AI發展的「奧本海默時刻」或許已悄然來臨。這個比喻並非表示人工智能必然走向災難，而是說明技術創造者開始無法再迴避：當技術具備足夠的自主性、規模與破壞力時，創造者是否仍能把一切責任推給使用者？AI巨頭同意也好，不同意也好，公眾正在看見。企業的選擇、沉默，以及對「技術中立」的援引，最終都會成為其社會責任的一部分。