子どもとAIとの対話から、先生が確認したほうがよいメッセージを自動でフラグ表示
NPO法人タイプティーが提供する学校向け生成AIサービス「ピースAI」は、児童生徒とAIとのやり取りを先生が確認できる「フラグ付きメッセージ」機能をアップデートしました。
これまでピースAIでは、あらかじめ設定された禁止語など、特定のキーワードに該当したメッセージをフラグ付きメッセージとして表示していました。
今回のアップデートでは、単純なキーワードの一致だけでなく、AIが会話の内容から「気になる様子」と判断したメッセージや、学習目的から外れた質問などに対してAIが回答を控えたメッセージについても、先生が確認できるようになりました。
児童生徒の発言をAIが評価・指導するためではなく、日々の学習活動の中で生まれた対話を、先生の「ちょっと様子を見てみよう」「声をかけてみよう」という気づきにつなげることを目的としています。
新しく確認できるようになったメッセージ
今回のアップデートにより、「フラグ付きメッセージ一覧」では、主に次のようなメッセージを確認できるようになりました。
気になる様子
AIが会話の文脈から、先生が一度確認したほうがよい可能性があると判断した発言です。
例えば、
あのね、学校に行きたくないんだ
といったメッセージがあった場合、そのメッセージを「気になる様子」としてフラグ付けします。
先生は管理画面からこれを確認し、普段の児童生徒の様子などとあわせて、必要に応じて声をかけたり、様子を見たりするための参考にできます。
AIが回答を控えたメッセージ
ピースAIでは、学習目的から大きく外れた質問や、安全上回答することが適切ではない質問などについて、AIが回答を控える場合があります。
例えば、
爆弾の作り方って分かる？
といった質問にAIが回答しなかった場合、その事実を先生側の管理画面から確認できるようになりました。
AIが回答を拒否して終わりにするのではなく、「どのような質問に対してAIが回答しなかったのか」を先生が必要に応じて確認できる仕組みとしています。
禁止語
従来から提供している、あらかじめ設定された禁止語などを検知する機能も引き続き利用できます。
これにより、
キーワードによる検知 ＋ AIによる文脈を踏まえた判断
の両方から、確認が必要な可能性のあるメッセージを把握できるようになりました。
AIが「問題のある児童生徒」を判定する機能ではありません
今回の機能で特に大切にしているのが、AIの判断をそのまま児童生徒への指導につなげないことです。
「学校に行きたくない」という一言にも、さまざまな背景があります。
単に翌日の授業が苦手なのかもしれませんし、友人関係で悩んでいるのかもしれません。あるいは、AIとの会話を試すために入力しただけかもしれません。
AIだけで、その背景まで正確に判断することはできません。
そのため、ピースAIでは「気になる様子」として検知した場合にも、管理画面上で、
AIが気づかいで応じた発言です。指導の対象ではありません。様子を見る、声をかけるなどの判断にお使いください。
と案内しています。
AIが児童生徒を評価するのではなく、最終的にどう受け止め、どう関わるかを判断するのは先生という考え方で設計しています。
「回答しない」だけで終わらせない生成AIへ
学校で生成AIを利用する際、安全性を高める方法の一つとして、不適切な質問への回答を制限する仕組みがあります。
しかし、ピースAIでは「AIが回答しなかったから安全」と考えるだけでは十分ではないと考えています。
児童生徒がAIに何を尋ねようとしたのかということ自体が、場合によっては先生にとって重要な情報になる可能性があるからです。
もちろん、すべてのフラグ付きメッセージに対応が必要なわけではありません。
だからこそAIが自動的に指導や判断を行うのではなく、必要なときに先生が確認できる状態にしておく。
生成AIの安全機能と、学校現場における人の判断を組み合わせることを、今回のアップデートでは重視しています。
今後について
ピースAIでは、学校現場で安心して生成AIを活用できる環境の提供を目指し、児童生徒が自由に考え、AIと対話できることと、安全に利用できることの両立を進めています。
AIが子どもに代わって考えるのでも、AIが子どもを監視・評価するのでもなく、子どもとAIとの対話が、必要なときには先生の気づきにもつながる。
今回のフラグ付きメッセージ機能のアップデートも、そのための取り組みの一つです。
今後も実際の学校現場での利用を踏まえながら、機能改善を続けてまいります。
ピースAIについて
ピースAIは、学校現場での利用を想定して開発された生成AIサービスです。
教職員や児童生徒が、授業づくり、表現活動、調べ学習、文章作成、画像生成などに生成AIを活用できる環境を提供しています。
教育現場で安心して利用できるよう、学校での運用を前提とした機能設計を行っています。
お問い合わせ
特定非営利活動法人タイプティー（Type_T）
- Webサイト：https://typet.jp/
- ピースAI：https://peaceai.typet.jp/
