생성형 AI 전부 믿을 수 있을까?

최근 GPT4-o 발표에서 느낀 것은 인간과 AI와의 대화가 전혀 어색하지 않고, 눈을 감고 들어보면 사람과 사람의 대화처럼 느껴질 만큼 엄청난 기술 발전이 이뤄진 것으로 보였다.

 

이 발표 영상을 보면서 예전에 감명 깊게 보았던, her라는 영화가 생각났는데, 내용은 영화 시점에서 2025년이라는 미래에 개인화된 AI 비서들을 사람들이 보유하고 있었고, 주인공 인 남자가 이 AI에게 사랑에 빠지는 내용이다. 

 

이 영화를 접했던 것은 개봉 한지 좀 지난 2016년이었고, 그때 당시에는 AI와 이렇게 사람처럼 대화할 수 있는 시점이 더욱이 먼 이야기라고 생각했는데, 영화 시대상처럼 정말로 2025년에는 일상이 될지도 모른다는 생각이 든다. (최근에 영화가 재개봉했는데, AI에 관심 있는 사람은 한번 보면 좋을 것 같다.)

2014년 개봉 her

 

생성형 AI를 이야기하는 왜 이 Her라는 영화를 이야기하냐면, 바로 her 등장하는 AI가 이 생성형 AI의 최종 목표기 때문이다. 사용자가 원하는 콘텐츠들을 수집하고 조합하며, 학습하지 않은 내용을 생성하여 정보들을 제공하고 있기 때문이다.

영화에서는 AI가 제공하는 내용들을 정답이라 생각하며 의심을 하지 않는다. 그만큼 신뢰도가 높다는 의미이다.

 

 

 

그렇다면, 현재 나오고 있는 수많은 생성형 AI들은 전부 믿고 사용할 수 있을까?

 

Adobe에서 제공하고 있는 이미지 생성형 AI 다. 생성할 이미지에 대한 정보를 프롬프트로 입력하여 원하는 이미지를 생성한다. 아래 그림처럼 이쁜 그림을 생성했다면 성공이다.

Adobe 이미지 생성 AI

 

 

그러나 항상 이런 멋있는 그림만을 생성하는 것은 아니다. 간혹 물리법칙을 무시하거나, 사람 신체구조를 이상하게 그려서 기괴한 모습을 한 이미지를 생성하기도 한다.

아래 이미지는 정말 사람 같지만, 손가락은 보면 그 생각은 달라진다. 

이미지 할루시네이션

손가락이 이상한 AI 이미지

 

 

 

다음은 유명했던, Chat GPT의 엉뚱한 내용의 답변이다. 사용자가 논리에 맞지 않은 질문을 했을 때, 문맥에 맞는 이상한 정보들을 조합하여 답변하고 있다.

LLM 모델의 할루시네이션

 

 

현재 AI 개발 업체들은 이러한 AI 할루시네이션을 줄이는데 큰 노력을 하고 있다. 위에서 본 Chat GPT3의 세종대왕 답변 이슈는 Open AI 빠르게 인지하여 다음 모델인 GPT4에서는 세종대왕이 맥북을 던졌다는 답변을 확인할 수 없다. 

GPT4 모델의 답변

 

하지만, 이러한 노력에도 가끔 발생하는 할루시네이션 때문에, 다시 한번 검색하여 내가 직접 찾아볼 때가 있기도 하다.

모두가 알다시피 대부분의 답변은 올바른 답변으로 우리에게 큰 도움을 준다. 구글이나 네이버처럼 검색엔진에 알맞은 키워드를 검색하지 않아도 chat gpt나 하이퍼클로바로 원하는 정보를 쉽게 얻을 수 있다. 굉장히 편리하며 좋다.

 

그러나, 아직까지는 답변에 대해 맹신하기보다는 조금은 의심을 가지고 있어야 하지 않을까 라는 생각을 한다.