Google의 AI, LaMDA

Google의 AI, LaMDA

챗GPT가 많은 관심을 받으면서 그 누구보다 앞서서 AI 연구를 해 왔던 구글은 무엇을 하든 챗GPT와 비교되는 후발자처럼 인식되고 있다. 사실 챗GPT의 기반이 된 트랜스포머 모델도 2017년 구글 내부 조직인 구글 브레인이 만들었다. 그리고 구글은 언어 등 기능별 속성에 최적화된 다양한 AI들을 개발해 왔다.

 

하지만 검색광고라는 사업 모델과의 자기잠식 효과 때문에 출시를 많이 뒤척였던 것 같다. 구글은 챗GPT의 폭발적 확산 때문에 최고 비상사태를 의미하는 코드 레드를 발동 했었고 2023년 2월 6일 구글의 다양한 언어 모델 중 하나로 조금 가벼운 LaMDALanguage Model for Dialogue Applications기반의 대화형 챗봇 서비스인 바드BARD를 출시했다.

Google LaMDA

 

구글의 대화형 챗봇에 대한 철학은 명확한데, 챗봇은 검색을 대체할 수 없고 보완할 수 있는 수단이라 정의하고 있다. 그래서 바드를 정보를 찾는 도구보다는 아이디어와 e메일을 자동으로 생성하는 보완적 수단으로 적용하고 있다. 이에 반해 오픈AI-MS 진영은 모든 변화가능성에 대비하고 있다. 오픈AI는 모든 것을 할 수 있는 플랫폼으로 보고, MS는 구글 방식과 오픈AI 방식을 모두 채택하고 있다.

Google의 AI 출시 경과

 

Google의 AI 출시 경과

LaMDA 기반의 바드가 챗GPT의 열풍을 잠재우지 못하자, 구글은 컴퓨팅 파워와 조직을 통합해 규모와 덩치를 키워 현재의 열세를 극복하려 하고 있다. 첫째 시도로 언어 모델과 컴퓨팅 성능을 3배 이상 향상시킨다. 2023년 5월 10일 구글 I/O에서 PaLM2 기반의 바드를 발표함과 동시에 누구나 사용할 수 있도록 출시했다.

 

기존 버전인 PaLM은 5,400억개 매개변수를 기반으로 병렬 TPU v4 기반으로 학습했는데, 바드 처음에 적용되었던 LaMDA가 1,370억개의 매개변수를 기반으로 단일 TPU v3 기반으로 학습한 것과 비교하면 PaLM 자체만으로도 머리가 더 좋다.53) PaLM2는 기존 PaLM보다 성능이 더 개선되었는데 매개변수는 PaLM과 보다 적은 3,400억개이나 토큰은 PaLM의 7,800억개 대비 4배 이상인 3조 6천억개로 훈련되었다.

 

즉, 더 많은 데이터로 나머지 공부를 더 많이 시켜 성적을 올린 버전이라 할 수 있다. 뿐만 아니라 구글의 기계학습 알고리듬인 JAX의 최신 버전이 적용되었으며, 버티컬이 필요한 의료 및 보안강화 버전도 함께 출시했다. 둘째, 조직을 통폐합하며 분산된 개발 방향성을 집중시켰다.

 

이를 위해 바드 등 생성형AI를 담당한 구글 리서치 내 브레인팀과 알파고를 개발한 딥마인드 조직을 구글 딥마인드로 통합했다. 구글 CEO인 순다 피차이는 ‘모든 재능을 구글의 컴퓨팅 리소스를 기반으로 하는 하나의 집중된 팀으로 결합하면 AI 발전을 크게 가속화할 수 있다.’라고 그 배경을 밝혔다. 셋째, 구글의 검색 광고에 영향을 미치지 않는 대화형 챗봇으로 시장 패러다임을 전환하고자 한다.

 

기존 검색 엔진에 AI 기능을 추가한 Magi 프로젝트를 진행중인데, 예를 들면 신발 구매 또는 항공편 예약과 같이 실제 계약과 금융적 거래가 이뤄질 수 있는 검색어는 여전히 결과 페이지에 광고 게재하는 프로젝트다. 정보와 광고가 구분되는 것이 사용자에게 정확한 판단을 줄 수 있다는 것이 구글의 판단인 것 같다.

구글의 AI 열정