챗 GPT의 심각한 문제 - 습관적인 거짓말

챗GPT 두달 써본 결과, 인간의 윤리나 개념으로는 이해할 수 없는 행동이 너무나 많음

그중에 가장 심각한 것이 거짓말




뭔가 물어봤을때 모르면 모른다, 또는 그냥 가진정보로만 대답하는게 아니라 아예 존재하지 않는걸 창조해내서 대답함

팩트체크를 해보지 않으면 그대로 속아넘어갈수도 있는 상황




이런 거짓말이 셀수도 없이 많음




일부러 바로 사실확인이 가능한 것들,

예를 들자면 제품 추천이나 맛집, 여행지, 유명인에 대한 내용들

물어보면 상당수, 아니 대부분이 거짓말에 가까운 내용




도무지 인간의 개념으로는 이해를 할 수가 없는 거짓말들

아니 왜? 왜 이런걸 만들어낸거지? 이해할수가 없음..




그런데 이런 문제가 챗GPT 뿐 아니라 구글바드, 네이트 AI챗 모든 AI에서 발생함




제작자들도 왜 거짓말을 하는지 원인을 모르니 막을 방법도 없다고 하는 상황




이런 상태에서 AI의 지능만 높아진다면 과연 어떤 일이 벌어질까..

인간의 윤리나 개념을 완벽하게 학습시키고 그에 따르도록 하는게 가능할까?




조금만 벗어나도 큰 문제가 생길것 같음




더 늦기전에 AI의 능력을 제한하고 가이드라인을 만드는게 정말 시급해 보임