AIの安全性
子供が使う生成AIについて、便利さとともに気になるのが安全性です。どんなリスクがあり、サービスを作る側では何を確かめているのでしょうか。
その情報源の一つになりそうなのがAISIです。
AISIって、何をする機関？
AISIは「AI Safety Institute」の略で、AIの安全性を評価する方法や基準を検討する日本の機関です。2024年2月に発足し、IPA（独立行政法人情報処理推進機構）に設置されています。
開発者やサービスを提供する企業に向けて、安全性の確認項目を示す評価観点ガイドや、評価作業を支援するツールを公開していたりします。
医療、ロボット、教育といった分野ごとの検討もされており、ロボットなら人との接触、教育なら学習への影響などが検討されています。
ビジョンペーパーって何？
最近このAISIから「ビジョンペーパー」の第2.0版が公開されました。
このビジョンペーパーというは「何を目指し、どんな課題にどう取り組むか」をまとめた文書です。
AISIにおける教育分野への取り組みの場として、2026年度から「教育SWG」が設立されており、ビジョンペーパーにも教育分野に関する記載があります。
教育分野では、どんなことを調べるの？
このSWGの活動ですが、当面は小中高校などでの生成AI利用を対象に検討を進めるようです。
ビジョンペーパーの教育分野の章には、子供の勉強や相談を支えるAIに加え、先生による教材作成や学習状況の把握・評価に関して挙がっています。この中で想定されるリスクの例として、こんなものがあります。
- AIとの会話に強く依存する。
- AIに頼りすぎて、自分で試したり考え直したりする機会が減る。
- AIの助けで解けたことを、自分で理解できたと思い込む。
今後、具体的な利用場面ごとにリスクを整理し、どう評価するかを検討していくとのことです。
今後の動向をウォッチしたい
親としては、専門機関が何を課題と考え、これから何を整理していこうとしているのかを知っておくことは、普段の子育てにおいても何かしらのヒントになりそうだなと思っています。
今後の計画としてでは、2027年度以降はガイドや検証環境の整備などを検討していくとのことなので、今後の結果をウォッチしていきたいなと思っています。