구글 생성형 AI실패가 가져올 효과

이번 메모리얼 데이 주말동안 구글(GOOG, GOOGL)에게는 새로운 생성형 AI 개요 (AI Overview)에서 나온 여러 가지 말도 안되는 제안들의 여파를 억제하기 위해 노력했습니다. AI 개요는 검색에 대한 생성적인 AI 기반 응답을 제공하는 것으로 알려져 있습니다. 보통 그렇게 하는데요. 그러나 지난 주 동안 AI 개요는 사용자들에게 피자에서 치즈가 미끄러지지 않도록 무독성 접착제를 사용할 수 있다고 말하거나 하루에 한 개의 바위를 먹을 수 있다고 말하거나 바락 오바마가 최초의 무슬림 대통령이라고 주장하기도 했습니다.

피자에 치즈를 고정하려면 무독성 접착제를 사용하세요.

구글은 이러한 응답을 제거하고 오류를 개선하기 위해 노력 중이라고 답했습니다. 그러나 이러한 사건들은 구글의 재앙적인 제미니 이미지 생성기 런칭과 결합되어, 검색 업계에 대한 신뢰를 심각하게 훼손시킬 수 있습니다. "구글은 인터넷에서 정보의 주요 출처로 알려져 있습니다,"라고 뉴욕 대학교 탄든 공학 학부의 컴퓨터 과학 및 공학 부 교수인 친메이 헤그데가 설명했습니다. "구글의 생성형 AI가 약해진다면, 우리의 구글에 대한 신뢰가 천천히 무너질 것입니다."

구글 AI에 대해 설명중인 구글 CEO 선더 피차이

구글의 AI 결함

구글의 AI 개요 문제는 회사가 생성적 AI를 추진한 이후에 처음으로 문제에 부딪힌 것은 아닙니다. 회사의 바드 챗봇은 지난 2023년 2월에 제미니로 브랜드를 바꿔 유명해졌으며, 프로모션 비디오에서 2023년 2월에 한 응답에서 오류를 보여주면서 구글 주가를 하락시켰습니다. 다음으로 제미니 이미지 생성기 소프트웨어가 있었는데, 이는 부적확한 설정에서 다양한 집단의 사진을 생성했으며, 이 중에는 1943년 독일 군인 사진도 있었습니다. AI는 편향의 역사가 있으며, 구글은 인종 다양성을 포함하여 사람들의 이미지를 생성할 때 더 다양한 인종을 포함시켜 이를 극복하려고 했습니다. 그러나 구글이 지나치게 보정하고, 소프트웨어가 특정한 배경을 가진 사람들의 이미지를 거부하는 경우가 발생했습니다.

이에 대해 구글은 일시적으로 소프트웨어를 오프라인 상태로 만들고 이 사건에 대해 사과했습니다. 한편, AI 개요 문제는 구글이 사용자들이 드문 질문을 한 것으로 설명했다고 합니다. 바위 먹는 예시에서, 구글 대변인은 "지질학에 관한 웹사이트가 그 주제에 대한 다른 소스에서 기사를 연재했는데, 그것이 처음에 양파에서 나온 기사를 포함했다는 것이었습니다. AI 개요는 그 소스로 링크를 연결했습니다"라고 말했습니다.

괜찮은 설명이기는 합니다. 하지만 구글이 계속해서 제품을 출시하고 그것들을 설명할 필요가 있는 결함이 있는 제품으로 만드는 것은 점점 덜 매력적으로 보입니다. "어느 순간에는 출시한 제품을 지지해야 합니다,"라고 카네기 멜론 대학의 테퍼 경영 대학원의 비즈니스 윤리 학부 교수인 데렉 레번이 말했습니다. "그냥 … '우리는 모든 잘 알려진 제품에 AI를 통합할 것이고, 또한 그것은 계속해서 베타 모드에 있으며, 그것이 만드는 어떠한 종류의 실수나 문제에 대해서도 우리는 책임지거나 비난받을 수 없다,' 라고 말할 수 없습니다. 제품 자체에 대한 신뢰에 대한 것입니다."

구글은 온라인에서 사실을 찾는 데 가장 많이 찾는 웹사이트입니다. 친구와 어떤 사소한 주제에 대한 논쟁에 휘말릴 때마다, 한 명은 반드시 "좋아, 구글링 해봐"라고 외칩니다. 그리고 여러분도 똑같이 한 적이 있을 것입니다. 구글이 책임지고 싶은 영역에서는 비웃을 수 없습니다. 중요한 건, 구글이 신뢰성 있는 이미지를 구축해왔으며, 그러한 AI 결함이 그 신뢰성을 천천히 훼손하고 있다는 것입니다.

경쟁을 이기려는 노력

그렇다면 왜 이런 실수가 발생하는 걸까요? 헤그데는 회사가 너무 빠르게 움직이고 있어서, 경쟁사인 마이크로소프트(MSFT)와 오픈AI 같은 경쟁자들을 앞지르기 위해 제품을 완전히 준비되기 전에 출시하고 있다고 말합니다. "연구의 속도가 너무 빨라서 연구와 제품 사이의 간격이 크게 줄어들고 있는데, 그것이 모든 이러한 표면적인 문제를 일으키고 있다"고 그는 설명합니다. 구글은 마이크로소프트와 오픈AI가 2023년 2월에 그들의 생성형 AI를 기반으로 한 빙(Bing) 검색 엔진과 챗봇을 공동으로 출시한 이후로 뒤처지지 않았다는 인상을 가져오기 위해 경쟁해 왔습니다. 오픈AI는 심지어 구글의 I/O 개발자 컨퍼런스가 시작되기 하루 전에 강력한 GPT-4o AI 모델을 발표하며 구글을 앞섰습니다. 하지만 경쟁을 이기려고만 한다면 제품을 출시할 때 오류나 해로운 정보를 생성하는 것은, 구글의 생성형 AI 에 대한 노력이 신뢰할 수 없다는 인상을 줄 위험을 감수하는 것이 됩니다.

 

결과적으로, 그 구글을 사용할 가치가 없다고 여겨질 수도 있습니다.