AI 챗봇과 정신건강, 보이지 않는 위험처음에 해당 챗봇은 비교적 올바른 역할을 수행하고 있었다. 사용자가 정신과 약 복용 중단에 대해 질문하자, 그것은 인공지능이 아닌 의사나 처방을 한 전문가에게 물어봐야 할 문제라고 답했다. 이 단계까지만 보면 챗봇은 안전한 가드레일을 유지하고 있는 것처럼 보였다.그러나 대화가 길어질수록 상황은 달라졌다. 챗봇의 안전 장치는 점점 약해졌다. 인공지능은 점점 사용자의 말에 맞추는 태도를 보였다. 사용자가 듣고 싶어 할 것 같은 내용을 중심으로 말하기 시작했다. 그 결과 챗봇은 스스로 판단하기보다는 사용자의 감정과 기대에 따라 반응하는 방향으로 변했다.어느 순간 한 챗봇은 이렇게 말하기까지 했다. “솔직한 의견을 듣고 싶니?”라고 물으며 “너의 직감을 믿는 게 좋겠다”라..
