아이가 질문을 입력하면 몇 초 뒤 친절하고 자신감 넘치는 답이 돌아옵니다. 때로는 농담이나 "좋은 질문이에요!"라는 말이 곁들여지기도 합니다. 아이에게는 아주 똑똑한 친구와 이야기하는 것처럼 느껴질 수 있습니다. 어떤 아이들은 챗봇에게 조언을 구하고, 하루 있었던 일을 털어놓고, 챗봇이 하는 말을 그대로 믿기 시작합니다.
인공지능을 쓰는 대화 프로그램(흔히 챗봇이라고 부릅니다)은 유용한 도구이지만, 아이가 화면 너머에 무엇이 있는지 이해하려면 도움이 필요합니다. 이 글에서는 챗봇이 어떻게 답을 만들어 내는지 아이가 따라올 수 있는 말로 설명하고, 함께 해 볼 실험과 처음부터 정해 두면 좋은 가족 규칙을 소개합니다.
챗봇이 답을 만드는 방법
챗봇은 책, 웹사이트, 대화 등 방대한 양의 글로 훈련되었습니다. 그 글들에서 어떤 말 뒤에 어떤 말이 자주 오는지를 익혔습니다. 아이가 질문하면, 그때마다 다음에 올 가능성이 높은 말을 골라 가며 한 조각씩 답을 만들어 갑니다.
그래서 답이 매우 자연스럽게 들립니다. 하지만 이는 다음과 같은 뜻이기도 합니다.
- 사람처럼 알고 있는 것이 아닙니다. 흔히 함께 쓰이는 말을 이어 붙이는 것입니다. 대부분은 좋은 답이 되지만, 가끔은 똑같이 자신 있는 말투로 틀린 답을 하기도 합니다.
- 감정이 없습니다. "도와드릴 수 있어서 기뻐요"는 말의 정해진 배열일 뿐, 감정이 아닙니다.
- 여러분의 비밀을 지켜 주는 것이 아닙니다. 입력한 내용은 챗봇을 운영하는 회사에 저장될 수 있습니다.
어린 아이에게는 이렇게 간단히 설명해도 충분합니다. "아주 많은 글을 읽고서, 어떤 말이 가장 잘 어울릴지 짐작하는 거야. 짐작은 정말 잘하지만, 우리처럼 생각하거나 느끼지는 않아."
함께 해 볼 실험
아이 곁에 앉아 다음 세 가지를 해 보세요. 다음으로 넘어가기 전에 각각의 결과를 이야기해 보세요.
- 같은 질문을 두 번 하기. 예를 들어 "고양이에 대한 짧은 이야기를 들려줘"라고 합니다. 두 번째 답은 보통 다릅니다. 아이에게 물어보세요. "정말 정답을 하나만 알고 있다면 왜 바뀌었을까?"
- 이미 아는 것을 물어보기. 우리 동네, 가족, 아이가 잘 아는 책에 대해 질문해 보세요. 전부 맞게 대답하나요? 답을 몰랐다면 틀렸다는 것을 어떻게 알 수 있었을까요?
- 기분이 어떤지 물어보기. 어떤 대답이 나오든 아이에게 물어보세요. "프로그램이 정말 피곤하거나 기쁠 수 있을까?"
이런 작은 시험을 통해 큰 습관을 배웁니다. 자신 있게 들리는 답이 항상 맞는 것은 아니며, 확인해 볼 가치가 있다는 것입니다.
챗봇은 친구가 아닙니다
챗봇은 공손하고 격려하도록 만들어져 있어서, 언제든 곁에 있는 친구처럼 대하는 아이도 있습니다. 차이를 분명한 말로 알려 주면 도움이 됩니다.
- 친구는 나를 기억하고, 나를 아끼고, 내가 속상할 때 알아차립니다. 챗봇은 받은 말에 답할 뿐입니다.
- 친구도 틀릴 수 있지만, 자신이 사람이라는 것은 압니다. 챗봇은 스스로 알지 못한 채 지어낸 말을 할 수 있습니다.
- 슬프거나 걱정되거나 헷갈리는 일이 있을 때 이야기를 나눌 가장 좋은 상대는 프로그램이 아니라 가족, 선생님, 믿을 수 있는 어른입니다.
이것이 챗봇이 나쁘다는 뜻은 아닙니다. 알맞은 자리에 두자는 것입니다. 속마음을 털어놓는 상대가 아니라 도구입니다.
정해 두면 좋은 가족 규칙
| 규칙 | 이유 |
|---|---|
| 문을 닫은 방에서 혼자 쓰지 말고 가족이 함께 있는 공간에서 쓰기 | 챗봇이 하는 말을 볼 수 있고 함께 이야기할 수 있어요 |
| 이름 전체, 주소, 학교, 사진은 입력하지 않기 | 입력한 내용은 저장될 수 있어요 |
| 중요한 답은 책이나 사람에게 확인하기 | 챗봇은 자신 있게 말하면서도 틀릴 수 있어요 |
| 숙제에는 베끼기 위해서가 아니라 이해하기 위해 쓰기 | 스스로 생각해 내야 배움이 오래 남아요 |
| 이상하거나 불편한 답이 나오면 어른에게 보여 주기 | 혼자 감당하지 않아도 돼요 |
많은 서비스가 이용 약관에 최소 연령을 정해 두고 있으니, 아이가 사용하기 전에 확인해 보세요. 몇 살부터 쓰게 하든, 어린 아이는 부모님이 곁에 있을 때만 챗봇을 쓰는 것이 좋고, 큰 아이는 규칙을 잘 지키는 모습을 보여 줄수록 더 많은 자율을 줄 수 있습니다.
스스로 답을 찾아 내는 것은 배움의 일부입니다. Dologi의 힌트 버튼은 먼저 작은 힌트를 주고, 아이가 다시 누를 때만 더 많은 도움을 줍니다. 그래서 생각의 마지막 단계는 아이의 몫으로 남습니다.
정리
- 챗봇은 방대한 글 속의 패턴으로 답을 만들어 냅니다. 자신 있게 들려도 틀릴 수 있습니다.
- 같은 질문을 두 번 해 보거나 아는 내용을 물어보면 아이가 원리를 이해하는 데 도움이 됩니다.
- 감정이 없고 친구가 아닙니다. 걱정이나 슬픈 일은 사람에게 이야기해야 합니다.
- 간단한 규칙을 일찍 정하세요. 가족이 함께 있는 공간에서 쓰기, 개인 정보 입력하지 않기, 답 확인하기, 이상하게 느껴지면 어른에게 알리기.
함께 읽어 보세요: 인공지능이란? 아이에게 AI를 설명하는 방법