人工智能也会出错
人工智能有时会把错的话说得很有把握。这叫做幻觉。重要的事一定要检查。
故事
小俊问:“蜘蛛有几条腿?”聊天机器人清清楚楚地回答:“蜘蛛是昆虫,所以有六条腿。”小俊原样写进了作业里。可是,老师用红笔画了一道线。蜘蛛有八条腿,而且蜘蛛也不是昆虫。
学一学
挑的是接上去读起来很通顺的词。所以,有时候它不知道的事,也会编出来,说得好像知道一样。这叫做。
可怕的是,它说错的时候,口气也一样有把握。它常常不会说“我不太确定”。
人工智能出错的原因有很多。
- 它学过的文字里混着错误的内容。
- 它学完以后才发生的事,它不知道。
- 数数、计算和日期,它有时候不太拿手。
- 问题问得不清楚。
所以,要用三种方法来检查。
- 在书里或者可以信任的地方查一查。
- 问问老师或爸爸妈妈。
- 问问人工智能:“这个可以在哪里查到?”
一眼看懂
-
得到回答
-
在书里查一查
-
问问大人
-
决定信不信
简单地说
这就像一个没写作业的同学,装作会的样子来回答。口气很有把握,答案却可能是错的。
试一试
当一回“是真的吗?”侦探。
- 选三个你已经知道答案的问题(比如:我住的国家的首都是哪里?)。
- 和大人一起问一问人工智能。
- 用书或词典查一查,回答对不对。
- 把对的和错的写在一张表里。
小测验
句子说得对,就选[对];说得不对,就选[不对]。
-
1人工智能说得很有把握,答案就一定是对的。
答对了!
有点可惜。读一读原因吧。
人工智能说错的时候也很有把握。光听口气是分不出来的。
-
2人工智能编出来的错误回答,叫做幻觉。
答对了!
有点可惜。读一读原因吧。
不知道的事,人工智能也能编得像真的一样。
-
3重要的内容,最好在书里再查一遍,或者再问问大人。
答对了!
有点可惜。读一读原因吧。
养成检查的习惯,是用好人工智能的第一步。
答对的题 / 3
记一记
- 人工智能可能说得很有把握,却是错的。
- 它编出来的错误回答叫做幻觉。
- 重要的事,一定要查书、问大人。
今天的词语
点一下词语,就能看到它的意思。
再学深一点
这些内容是写给大一点的学生和大人的。和大人一起读吧。