AIやロボットのめざましい発展。ですが、その利用については多くの課題があります。日々進化する開発スピードに対して、ルールや法律の整備は追い付いていないという人もいますし、ルールや法律はイノベーションの邪魔をするので、まだない方がいい、という人もいます。AIとロボット法の国際的な研究者が、サイバネティック・アバター（CA）とデジタル・ツインの法と倫理を議論したシンポジウムを傍聴してきました。

こんにちは。JSTのムーンショット広報担当、ニシムラです。
目標１が目指す「2050年までに、人が身体、脳、空間、時間の制約から解放された社会」では、これまで想定していなかったような問題が起きると懸念されています。そこで新保史生プロジェクトマネージャー（PM）のプロジェクト「アバターを安全かつ信頼して利用できる社会の実現」では、ELSIと呼ばれる倫理的・法的・社会的課題に、経済的課題も加えたE³LSI（Ethical, Economic, Environmental, Legal, and Social Issues: イーキューブエルシ）を研究しています。

サイバネティック・アバターとは？

まず「サイバネティック・アバター（CA）」とは何でしょうか。
新保PMによると、”仮想空間にある自分の分身（アバター）だけでなく、現実世界で遠隔操作・操縦する分身ロボット、さらには人の身体的能力、認知能力及び知覚能力を拡張するICT技術やロボットをも含んだ概念" です。
例えば、今回のシンポジウムでは100名ほどがオンラインで参加していましたが、それを会場のスクリーンに投影すれば、アバターで参加しているのと同じだといいます。

CAは、大きく２種類に分けられます。
■有体物CA
まず挙げられたのは、ASIMOのような人型をしたヒューマノイド。なかでも自分そっくりの外観をしたものを、双子の意味をもつ「ジェミノイド」として、石黒浩PMのプロジェクトでは区別しています。
また、遠隔操作するタイプのロボットは、様々な企業が開発しています。
そして日本のロボットとして非常にユニークなのが、コミュニケーションロボット。セラピーロボットのパロや、ペットロボットのAIBO/aiboです。何かの役に立つわけではないが、“カワイイ” からいい。

余談ですが、新保PMは海外で「ガンダムは憲法に適合するのか」という、予期せぬ質問をされ驚いたそうです。兵器？それとも防衛装備品……？
日本ではそういう捉え方をすることは少ないように思いますが、海外では違う見方があることに改めて気づかされます。
※文中に記載の会社および商品名は、各社の商標または登録商標です。

■無体物CA
具体的な形はもっていませんが、メタバースやオンラインゲームで使用されるアバター（VTuber）や、デジタル・ツイン（実在または物故者の人物アバター）、仮想架空人物のアバター、デジタルエージェントやボットなどが挙げられます。
ここにも、日本ならではの特徴があります。コーポレートアバター、いわゆる「ゆるキャラ」です。各自治体に独自のキャラクターがいるというのは、海外ではあまり一般的ではなさそうですね……。

CA認証

さて、人間は、パスポートやマイナンバーカードなどによって国が本人であることを証明してくれます。
ではロボットやCAをどうやって認証すればよいのでしょうか。何かを契約する場合など、そのアバターを操作しているのが契約者本人であると証明されなければ、取引はできません。また、誰が操作しているか特定できないアバターは、テロや犯罪の最適な「実行役」として使われかねません。
そこでCA認証が必要になります。
新保PMは、認証する仕組みを考えて国際的な標準とし、認証マークをつけることを目指して、ムーンショット型研究開発事業のなかで「アバターを安全かつ信頼して利用できる社会の実現」に取り組んでいます。

CAと法律

CA認証だけではなく、「アバターののっとり・なりすまし」を検知する技術の開発や、現実空間と仮想空間を行き来するようになる時代の新たなルールも必要です。
アバターは本人と同じと考えていいのかといった事柄や、亡くなった人のアバターの取り扱いなど、現在の法律でどう対応すればよいのか迷うような新しい課題も見えてきています。
このように、CA活用には、さまざまな要因が複雑に絡むことが予想されます。AIやロボットをめぐる課題について、国際的な研究者は、どのような意見をもっているのでしょうか。

パネルディスカッション：挑戦的問題提起への質問と反論

ロボット法の先駆者であるライアン・ケイロ教授は、会場にも登場したAIBO/aiboに言及しました。初代モデルの修理サポートが終了になったとき、オーナーがお葬式をしたと。これは、トースターや椅子のような一般的なモノとの関わり方とは明らかに違います。ロボットと人との違いを区別することは難しくなっているのです。
ちなみに、現行モデルのaibo公式サイトでは、七五三詣なども実施されているようです！

また、書簡を送ったり電話で話したりするとき、その手紙や電話機に人間と同じ権利が付与されているとは考えません。ですがCAに対する扱いは異なるといいます。そのため「今ある法律を若干変更するのではなく、新しい分類が必要ではないか」という問題提起をしました。

一方で、プライバシーとテクノロジー法の分野で著名なウッドロウ・ハルツォーグ教授は「人とロボットは違わない、ロボットの問題に必ずしも新しい法律は必要ではない」という考えでした。
そして、機が熟すのを待ちすぎると手遅れになり、ルール化が難しくなることを懸念していました。

例えば、スマートウォッチで脈を測り、気分や睡眠行動、脳科学的にあなたの考えまでモニタリング。生体データがどんどん集められ、企業のマーケット拡張のために、AIが私たちの生活全てに入り込んできています。
空港での顔認識や面接での感情認識、そうしたAIツールの導入にも「これが新しい現実だから」といつしか慣れてしまう。
見られることやインタラクションに慣れてしまうと、ある日、このルールを変えるには遅すぎる、と気づくといいます。

「問題は法的制度そのものではないか」と話したのは、カナダにおけるロボット法・政策の第一人者であるクリステン・トマソン教授です。
そもそも、ロボットやCAを規制しようとしている、既存の法律は小さな母集団（もともとは白人男性）がベースになっています。言葉の定義も、状況や決定者によって変わります。使用されている用語や法の解釈を再定義することによって、その限られた母集団が便益を得るようにしてきたのです。

一方で、大衆とは誰なのか。それも状況によって違います。CAやロボットが公の空間に入ってくるとき、その空間のアクセス権を持っている大衆とは誰か、公共の空間とは何かについても研究しているといいます。

参加者からの質問

参加者からは多くの質問が寄せられ、時間が足りなくなるほどでした。
例えば、遠隔からの暴力行為や、将来的に軍事ロボットが使われるような状況になったとき、どのような責任を負わせるのか。
CAの使用を、政府や国家が制限するのではないか。

あるいは、デジタル・ツインが作られて、自分の知らないところでマーケティングや政策活動に利用されていたらどうでしょうか。デジタル・ツインは、自分の全てが反映されているわけではないのに、自分として振る舞い、もしそれが誤っていても訂正する機会がないかもしれない。
「こういうことを人々は望んでいる」、と意図しない方向へ社会が進んでしまうのは怖いことです。

また、これまでは物理的制約のおかげで保たれていたプライベートな領域をCAの世界にも導入し、意図的にCAのデータが残らないしくみを作る必要があるのではという意見もありました。

さらに顔認識に関して特に危険なのは、それがあなたの「顔」だから。
親指を見て人を認識したりしないですよね。つまり私たちのアイデンティテティー、尊厳の問題につながるからだといいます。

私が特に興味深かったのは、採用面接でAIやアバターを使用することについてです。
面接される側としては、見た目等で判断されることを防ぐために、アバターは有益に思えます。でも、もし特定の属性が面接で有利となれば、みんなが同じようなアバターを使うかもしれない。
それはCAウォッシング、つまり根源的な社会問題をウォッシングするということになり、根源的な社会問題を解決するほうが先決かもしれません。　
さらに、面接官がAIなら、感情などに左右されず公平に選考してくれるかもしれません。でも、CAやAI同士の面接では、何だか自分自身がどこにも実在していないような気がしてしまいます。その感覚も、いずれ慣れてしまうのでしょうか……。

本当に複雑かつ多岐にわたるテーマで、議論は尽きませんでした。
新保PMのプロジェクトでは、積極的にイベントやディスカッションの場を設けています。ぜひ、アバター社会でのルールや法律について考えるきっかけにしてみてください。
https://avatar-life.jp/ja/archives/category/events

後記

もし、ロボットやアバターが作業をした結果、何か損害が生じたら？
はたまた、AIが製作した作品の著作権ってどうなるの？
その程度の漠然とした疑問しか持っていませんでしたが、非常に複雑な要素が絡んでいて、さまざまな観点からの議論が必要だと痛感しました。
しかもルール整備に時間的猶予はありません。
何より、ロボットやAIについて考えることは、結局「人間」について考えることではないか。今回の議論を聞いて、改めて感じました。

関連情報

■ムーンショット型研究開発制度とは（内閣府）

■ムーンショット目標１
「2050年までに、人が身体、脳、空間、時間の制約から解放された社会を実現」

■新保史生PM のプロジェクト
「アバターを安全かつ信頼して利用できる社会の実現」

■CAと法に関するイベント・セミナー
https://avatar-life.jp/ja/archives/category/events