AIもまちがえます
AIは、まちがったことを自信たっぷりに言うことがあります。これをハルシネーションといいます。大事なことは、かならずたしかめましょう。
おはなし
ジュンがに聞きました。「クモの足は何本?」チャットボットは、はきはきと答えました。「クモはこん虫なので、足は6本です。」ジュンは、そのまま宿題に書きました。ところが、先生に赤ペンで直されてしまいました。クモの足は8本で、そもそもクモはこん虫ではなかったのです。
学ぼう
は、それらしく続く言葉をえらんでいます。だから、知らないことでも、知っているかのように作り出して話すことがあります。これをといいます。
こわいのは、まちがっているときも、同じように自信たっぷりに話すことです。「よくわかりません」とは言わないことが多いのです。
AIがまちがえる理由は、いくつもあります。
- 学んだ文章の中に、まちがったことがまじっていました。
- 学んだあとに起こった新しいできごとは、知りません。
- 数を数えること、計算、日づけが苦手なことがあります。
- しつもんがはっきりしていませんでした。
だから、3つの方法でたしかめましょう。
- 本や、信じられるところで調べます。
- 先生やおうちの人に聞きます。
- AIに「どこでたしかめられる?」と聞きます。
ひと目でわかる
-
答えを受けとる
-
本で調べる
-
おとなに聞く
-
信じるかを決める
かんたんに言うと
宿題をやってこなかった友だちが、知っているふりをして答えるのと同じようなものです。話し方は自信たっぷりでも、中身はまちがっていることがあります。
やってみよう
「本当かな?」たんていになってみましょう。
- 自分がもう答えを知っているしつもんを、3つ決めます(例:わたしが住んでいる国の首都は?)。
- おとなといっしょに、AIに聞いてみます。
- 答えが合っていたかどうかを、本や辞書でたしかめます。
- 合っていた答えと、まちがっていた答えを、表に書きます。
クイズ
文が正しければ[正しい]を、まちがっていれば[まちがい]をえらびましょう。
-
1AIが自信たっぷりに言ったら、それはぜったいに正しい答えです。
せいかいです!
ざんねん。理由を読んでみましょう。
AIは、まちがっているときも自信たっぷりに話します。話し方では見分けられません。
-
2AIが作り出したまちがった答えを、ハルシネーションといいます。
せいかいです!
ざんねん。理由を読んでみましょう。
AIは、知らないことでも、それらしく作り出してしまうことがあります。
-
3大事なことは、本やおとなに、もう一度たしかめるのがよいです。
せいかいです!
ざんねん。理由を読んでみましょう。
たしかめるくせをつけることが、AIを上手に使うための第一歩です。
せいかいした数 / 3
おぼえておこう
- AIは、自信たっぷりにまちがえることがあります。
- AIが作り出したまちがった答えを、ハルシネーションといいます。
- 大事なことは、本やおとなに、かならずたしかめましょう。
今日の言葉
言葉をおすと、意味が出てきます。
もっとくわしく
もっと大きい人やおとなのための説明です。おとなといっしょに読んでみましょう。