인공지능도 틀려요
인공지능은 틀린 말을 자신 있게 할 때가 있어요. 이것을 환각이라고 해요. 중요한 것은 꼭 확인해요.
이야기
준이 에게 물었어요. “거미는 다리가 몇 개야?” 챗봇이 또박또박 대답했어요. “거미는 곤충이라서 다리가 여섯 개예요.” 준은 숙제에 그대로 썼어요. 그런데 선생님이 빨간 줄을 그으셨어요. 거미의 다리는 여덟 개이고, 거미는 곤충도 아니었어요.
배워요
은 그럴듯하게 이어지는 말을 골라요. 그래서 모르는 것도 아는 것처럼 지어내서 말할 때가 있어요. 이것을 이라고 해요.
무서운 점은 틀릴 때도 말투가 똑같이 자신 있다는 거예요. “잘 모르겠어요”라고 하지 않을 때가 많아요.
인공지능이 틀리는 까닭은 여러 가지예요.
- 배운 글에 틀린 내용이 섞여 있었어요.
- 배운 뒤에 새로 생긴 일은 몰라요.
- 숫자 세기, 계산, 날짜에 약할 때가 있어요.
- 질문이 또렷하지 않았어요.
그래서 세 가지 방법으로 확인해요.
- 책이나 믿을 만한 곳에서 찾아봐요.
- 선생님이나 부모님께 여쭤봐요.
- 인공지능에게 “어디에서 확인할 수 있어?” 하고 물어봐요.
한눈에 보기
-
답을 받아요
-
책에서 찾아봐요
-
어른께 여쭤봐요
-
믿을지 정해요
쉽게 말하면
숙제를 안 해 온 친구가 아는 척 대답하는 것과 비슷해요. 말은 자신 있는데 내용은 틀릴 수 있어요.
해 보기
‘진짜일까’ 탐정이 되어 봐요.
- 내가 답을 이미 아는 질문을 세 개 정해요(예: 내가 사는 나라의 수도는?).
- 어른과 함께 인공지능에게 물어봐요.
- 답이 맞았는지 책이나 사전으로 확인해요.
- 맞은 것과 틀린 것을 표로 써요.
퀴즈
문장이 맞으면 [맞아요], 틀리면 [아니에요]를 골라요.
-
1인공지능이 자신 있게 말하면 틀림없이 맞는 답이에요.
정답이에요!
아쉬워요. 까닭을 읽어 봐요.
인공지능은 틀릴 때도 자신 있게 말해요. 말투로는 알 수 없어요.
-
2인공지능이 지어낸 틀린 답을 환각이라고 해요.
정답이에요!
아쉬워요. 까닭을 읽어 봐요.
인공지능은 모르는 것도 그럴듯하게 지어낼 수 있어요.
-
3중요한 내용은 책이나 어른께 한 번 더 확인하는 것이 좋아요.
정답이에요!
아쉬워요. 까닭을 읽어 봐요.
확인하는 버릇이 인공지능을 잘 쓰는 첫걸음이에요.
맞힌 문제 / 3
기억해요
- 인공지능은 자신 있게 틀릴 수 있어요.
- 지어낸 틀린 답을 환각이라고 해요.
- 중요한 것은 책과 어른께 꼭 확인해요.
오늘의 낱말
낱말을 누르면 뜻이 나와요.
더 깊이 배우기
더 큰 학생과 어른을 위한 설명이에요. 어른과 함께 읽어 봐요.