1979年、フォード工場で起きた“静かな一撃”
1979年1月25日、ミシガン州フラットロックにあったフォード・モーター社の工場で働いていた25歳のロバート・ニコラス・ウィリアムズは、部品が大量に納められた巨大な棚に登り、作業をしていた。棚から部品を回収するロボットが不調のため、ロバートは実際の部品の在庫数量を手作業で確認しなければならなかったのだ。
ロバートが作業をしている間も、部品回収を担当するロボットアームが作業を進めていた。間もなく、ロボットは静かにロバートに背後から接近し、頭部を殴打して即死させた。ロボットはそのまま作業を続け、ロバートの遺体は異変を感じた同僚に発見されるまで、30分間そのままだったという。これは人間がロボットによって殺害された最初の記録となった。
▶ロバート・ウィリアムスのWikipedia
▶ロバート・ウィリアムスの墓の情報（ロバートの顔を拝むこともできます）
裁判が突きつけた“設計責任”――1,000万ドルの賠償
その死は完全に偶発的なものではなかった。当時の工業用ロボットは今と比べて安全対策が手薄だった。ロボットが近づいてくることを知らせる警報はなく、近くに人間が居てもロボットが自発的に回避行動をとるような技術も無かった。裁判が行われ、陪審員はロバートの死を防ぐための十分な配慮がロボットの設計時に払われていなかったと認めた。彼には妻と三人の子供が居た。遺族はロボットを設計した製造元であるリットン・インダストリーズ傘下のユニット・ハンドリング・システムズから1,000万ドルの賠償金を得たという。
21世紀のラッダイト――ロボットに追われる人間
今のロボット技術は安全性も含め1979年とは別物だ。AI (人工知能) は急速に発達し、技術は日進月歩どころか分単位で進化していると言われるほどだ。二足歩行の人型ロボットは当たり前になり、我々でも手が届く値段になり始めている。中国の電気自動車メーカーBYDなどの工場では、人型ロボットが労働力として働き始めたという。これは我々が子供の頃に描いた未来像そのものだ。
そうすると出てくるのが、いわゆる「ラッダイト」だろう。これは、いずれはロボットが労働者に取って代わるだろうという考えのことだ。19世紀の序盤、近代化が進んだイギリスの織物工業地帯で機械破壊運動が起こった。通称ラッダイト運動である。産業革命にともなう機械使用の普及により、失業のおそれを感じた手工業者や労働者が起こした運動だった。今後、21世紀のラッダイト運動が起こる可能性はある。ロボットに押され、職にあぶれた人間が死に至った場合、それは形を変えた第二のロバートになりえる。
アシモフの『ロボット三原則』を超えて
さらに発展したもう1つの懸念は、ロボットの知能が人間の知能を超える、というものだろう。SF作家のアイザック・アシモフは1950年代、『ロボット3原則』において、このような懸念が現実化しないよう、ロボットにプログラミングされるべき原則を考えた。「人間への安全性、命令への服従、自己防衛」だ。だが、その原則は人間の都合によって簡単に破られる可能性がある。例えば「人間への安全性」。ロボットが戦争兵器として有用だとされれば、これはあっさりと破られるはずだ。
LAWS――“戦争の第3の革命”が迫る
AIを搭載したロボット兵器の登場はかなり現実味を帯びてきている。有識者の間では、AIに人命を奪う判断を任せても良いのか、その場合の責任は誰が負うのかといった新しい争点が生まれている。
人間の命令がなくてもAIの判断で自律的に動く兵器を自律型致死兵器システム「LAWS」と呼ぶ (Lethal Autonomous Weapon Systems) 。国連では2014年から特定通常兵器使用禁止制限条約 (CCW) の枠組みで、LAWSの規制に向けた議論が行われてきた。 グテーレス事務総長は2020年1月22日に行った所信表明演説で、21世紀の進歩を危うくする4つの脅威の中の一つとして「科学技術発展の負の側面」を挙げた。グテーレス事務総長は「AIは人類に大きな進展とともに、大きな脅威をもたらしている。人間の判断を介さずに殺人が行える自律型殺傷兵器は、倫理観と政治的な観点から受け入れられるものではない」と述べ、その開発に対し警鐘を鳴らした。
“AIが引き金を引く”とき、誰が責任を負うのか
人間による命令や操作がなくても動く完全に自律したLAWSはまだ存在していない。だがアメリカやロシア、中国、フランス、イスラエル、韓国などがLAWSの開発に力を入れているという。LAWSの実現は、火薬、核兵器に次ぐ軍事上の「第3の革命」になるといわれ、戦争の様相を大きく変える可能性がある。世界最大級の国際人権NGOであるヒューマン・ライツ・ウォッチは2012 年の報告書で、今後30年以内に完全自律型の殺人ロボットが開発されると予想しているが、その時期はもっと早まるかもしれない。
LAWSの使用は、AIの判断が正確であることを前提にすれば、戦場で様々な要因により判断を誤る人間の兵士に比べ、市民への誤爆が減るなど人道的であるとの考え方もある。他方、AIが自律的に人命を奪う判断をした場合、その責任の所在があいまいになり、違法行為が起きた場合に誰も責任を取らなくなることも考えられる。違反者を罰することで違法行為を防いできた国際人道法が機能しなくなる恐れがあるのだ。またLAWSは機械である以上、故障や誤作動を起こす可能性もある。更にはAIが人間に反乱を起こす事態を懸念する科学者もいる。
「暴走するAIロボット」伝説と陰謀論──現実の映像と“29人死亡”の真偽
実際、中国のロボット企業・Unitree社が開発したヒューマノイドロボット「H1」には、人間の制御を離れて暴走しているように見える映像が、これまで何度もネット上に流出しています。そのたびに「AIロボットが反乱を起こしたのではないか」と話題になり、SNSや掲示板で騒がれる事態となっている。
さらに、アメリカの著名なUFO研究家であり、陰謀論者としても知られるリンダ・モールトン・ハウ氏は、2018年にロサンゼルスで開催されたイベント「コンシャス・ライフ・エキスポ」に登壇した際、衝撃的な話を語りました。彼女によれば、日本（あるいは韓国）の大手ロボット企業が軍事用に開発していたAIロボットが突如として暴走し、29人の研究者を殺害したというのです。さらにそのロボットは破壊されても自らを修復し、地球周回軌道上の衛星と接続して“自己アップデート”までも行ったという。
もちろん、この話はAIロボットへの恐怖と「テクノオリエンタリズム（東アジア＝技術的に異質・危険とする西洋的偏見）」が色濃く反映された、荒唐無稽な陰謀論だ。しかしながら、一部の界隈ではこの話が真剣に語られているという事実自体、現代社会におけるAIへの不安と想像力の在り方を示すものとして注目すべきだろう。
▶リンダ・ハウの講演についてのチューリッヒ大学のデジタル宗教学助教授、ベス・シングラー氏のコラム
“第二のロバート”は生まれるのか――未来へ向けた警鐘
工場のロボットアームがロバートを死に至らしめたのは偶然であった。だが彼の死は結果的に、その後の産業用ロボットの「人間への安全性」を大きく進化させた。一方で自発的に人間を攻撃するLAWSの開発が進んでいる。新たな形の「ロバートの悲劇」が起こる日は、そう遠くないかもしれない。
という言葉がなかなかにエグい。