ELSI人材育成〜データ・AI利活用におけるELSI

2020年9月4日 掲載

ELSIセンターでは、ELSI教育プログラムを開発し、「ELSI人材」を創出することをめざしています。

大阪大学 数理・データ科学教育研究センター(MMDS)と連携しつつ、「データ・AI利活用における留意事項(心得)」に関する教育プログラムの開発(*1)に関わっています。

(*1)
現在、数理・データサイエンス教育強化拠点コンソーシアム(北海道大学、東京大学、滋賀大学、京都大学、大阪大学、九州大学)において、数理及びデータサイエンスに係る教育カリキュラム「数理・データサイエンス・AI(リテラシーレベル)モデルカリキュラム~データ思考の涵養~」の開発が進められています。大阪大学は、数理・データ科学教育研究センター(MMDS)がその開発を担っています。モデルカリキュラムは、「社会におけるデータ・AI利活用(導入)」や「データリテラシー(基礎)」、「データ・AI利活用における留意事項(心得)」といった項目から構成されています。

今回は、この教育プログラム開発を見据えて実施された講義の様子をご紹介します。

2020年8月10日にオンライン形式で実施されたのは、2020年度夏学期集中講義「【総合】データ科学特講」の4日目です。岸本充生 ELSIセンター長/教授が担当しました。

この日は、2時限目と3時限目にレクチャーが、そして、4時限目に受講生によるグループディスカッションが行われました。

本授業は学部1年生から博士後期課程までの14人(他大学からの参加も含む)が受講しました。また、受講生の所属学部/研究科も、法学、経済学、人間科学、工学、基礎工学、理学など多様でした。

「今日はELSIという言葉を覚えて帰ってください」という岸本教授の言葉で始まったこのレクチャー。いま私たちの身近にあるシャープペンシルや電子レンジ、エレベーターなどの具体例をあげながら、さまざまな新規科学技術が社会に導入されていく時にどのような課題が想定されるか、そして、それらの課題をどのように整理し、対処することができるのか、といった説明がありました。

その後は、JR大阪駅ビル人流解析実験やアマゾンのAI採用システムの導入見送りなど、社会的に大きな議論の的となった具体的な事例をあげながら、「データ取得は公正か?」「アルゴリズムは公正か?」「サービスは公正か?」の3点からデータ利活用のELSIについて考えていきました。

続く4時限目は、受講生が4つのグループにわかれて、ディスカッションを行いました。

  • 受講生に与えられた課題:ある小学校で、出入り口に顔認証機能付き監視カメラを複数設置し、ブラックリストに登録された人が入ってくると警告を鳴らす顔認証システムの導入を検討することになりました。あなたは教育委員会の担当者です。以下について検討してください。
    1. ステークホルダー(関係する人たち)は誰か?
    2. 想定されるベネフィット(良い側面)とリスク(悪い側面)は何か?
    3. 本プロジェクトを実施するなら、どんな手順でやるべきか?
    4. 反対する人たちをどうやって説得するか?

各グループのディスカッションは、非常に活発なものになりました。

この技術を導入すれば犯罪を事前に防ぐことができるかもしれないが、ブラックリストに誰を入れるのかという基準を決めるのが難しいと考えたグループや、保護者、地域住民、生徒へ説明し同意を得る手続きについて検討したグループ、個人情報が記録されることに対する関係者の不信感を払拭するために、記録された映像の保管方法を検討したグループなど、議論は多岐にわたりました。

受講生からは、以下のような感想が寄せられました。(一部表現を改変した部分があります。)

  • 研究倫理は授業で取り扱われたことがありましたが、ここまで詳しく学んだことはなかったため、興味深かったです。特に事例が身近で分かりやすかったです。グループディスカッションも考えられる時間があって良かったと思います。
  • ディスカッションが印象に残りました。
  • データサイエンスの導入に関しては法の承認だけでなく、ELSIに代表される倫理的や社会的な承認も同様に重要であるということが印象的でした。
  • ELSIという考え方を初めて知ったので、そのような観点は興味深いと思った。新しい技術に反発や不信感が生まれてしまうのは仕方ないのかもしれないが、そこを乗り越えられるように考えていくこともまた、開発側がすべきことだと思った。
  • アマゾンの例について、思いもよらないようなバイアスが出ることが印象に残った。
  • グループセッションでいろんな人と話し合ったり、いろんな人の意見を聞けたりしたことがとても印象に残りました。

人材育成・社会貢献に戻る