AI의 기이한 실패

Jul 07, 2023

카일 차이카

이는 고등학교 미술 수업의 고전적인 연습입니다. 학생이 책상에 앉아 한 손에는 목탄 연필을 들고 종이 위에 자세를 취하고 다른 한 손은 손바닥을 위로 뻗은 채 손가락을 편안하게 눕힙니다. 그들은 안쪽으로 구부러져 있습니다. 그런 다음 한 손을 사용하여 다른 손을 그립니다. 초보자의 과제이지만 손을 설득력 있게 묘사하는 작업은 구상 미술에서 가장 악명 높은 과제 중 하나입니다. 각 손가락의 각도와 비율을 올바르게 설정하고, 엄지손가락이 손바닥에 어떻게 연결되는지 결정하고, 한 손가락이 다른 손가락과 겹치는 모습을 보여주는 등 엄청나게 실망스러웠던 기억이 납니다. 너무 자주, 기묘하게 긴 새끼손가락이 생기거나, 부러진 뼈처럼 불가능한 각도로 튀어나온 엄지손가락이 생기곤 했습니다. 코네티컷에 있는 고등학교 미술 선생님인 크리스티 수시(Kristi Soucie)는 내가 최근에 전화했을 때 이렇게 말했습니다. "모든 사람들은 손이 어떻게 생겼는지 안다고 생각하지만 실제로 보기 전까지는 이해하지 못하는 것입니다."

인공지능도 비슷한 문제에 직면해 있다. Midjourney, Stable Diffusion 및 DALL-E와 같이 새로 액세스할 수 있는 도구는 사실적인 풍경을 렌더링하고, 유명인의 얼굴을 복사하고, 모든 아티스트 스타일로 이미지를 리믹스하고, 이미지 배경을 원활하게 바꿀 수 있습니다. 지난 9월, AI가 생성한 이미지가 콜로라도 주 박람회에서 디지털 아트 부문 1위를 차지했습니다. 그러나 손을 그려 달라는 요청에 직면했을 때 도구는 악몽 같은 부속물을 뱉어냈습니다. 열두 개의 손가락이 있는 손, 두 개의 엄지손가락이 있는 손, 식물 돌연변이처럼 더 많은 손이 돋아난 손입니다. 손가락에는 관절이 너무 많거나 전혀 없습니다. 그들은 외계 세계의 의학 교과서에 나오는 다이어그램처럼 보입니다. 이 특정 작업에 대한 기계의 무능함은 AI의 단점에 대한 농담이 되었습니다. 한 사람은 트위터에 이렇게 말했습니다. “동년배 여성이나 AI 모델에게 손을 숨기는 이유를 묻지 마세요.”

다른 사람들이 보고한 것처럼 손 문제는 부분적으로 훈련받은 방대한 이미지 데이터 세트에서 정보를 추정하는 생성자의 능력과 관련이 있습니다. 사용자가 생성기에 텍스트 프롬프트를 입력하면 수많은 관련 이미지가 그려지고 학습한 패턴이 복제됩니다. 그러나 로제타석에서 이집트 상형문자를 번역하려는 고고학자와 마찬가지로 기계는 주어진 자료에서만 추론할 수 있으며 특히 복잡한 유기적 형태를 전체적으로 이해하는 데 있어서 지식에는 격차가 있습니다. 결함이 있거나 불완전한 데이터 세트는 결함이 있는 출력을 생성합니다. 언어학자 Noam Chomsky와 그의 공동 저자가 최근 Times Op-Ed에서 주장했듯이 기계와 인간은 다르게 학습합니다. “인간의 마음은 ChatGPT나 그와 유사한 패턴 일치를 위한 거대한 통계 엔진이 아니며 수백 테라바이트의 데이터를 게걸스럽게 먹어치우는 것이 아닙니다.”라고 그들은 썼습니다. 대신, “적은 양의 정보로 작동합니다. 데이터 포인트 간의 무차별 상관관계를 추론하는 것이 아니라 설명을 만드는 것을 추구합니다.”

생성기는 손에 손가락이 있다는 것을 계산할 수 있지만 손가락이 5개만 있어야 한다는 점이나 손가락이 서로 상대적으로 어느 정도 설정된 길이를 가지고 있다는 점을 학습하기가 더 어렵습니다. 결국 손은 각도에 따라 매우 다르게 보입니다. 노트북 키보드로 이것을 입력할 때 내 키보드를 내려다보면 손가락이 단축되어 손바닥에 의해 절반이 가려집니다. 관찰자는 정적 이미지에서 정확한 X선 구조를 확인할 수 없습니다. University College London의 컴퓨터 과학 교수인 Peter Bentley는 AI 도구가 “손에 손가락, 손톱, 손바닥과 같은 요소가 있다는 것을 배웠습니다. 그러나 그들은 손이 실제로 무엇인지 이해하지 못합니다.” AI가 복잡한 연골 구조 없이 살찐 소용돌이처럼 보이는 귀와 같은 작은 특징을 렌더링하려고 할 때 동일한 문제가 발생하는 경우가 있습니다. 또는 입에 잘못 자리잡은 치아; 또는 염소 얼룩으로 밝혀진 동공. AI는 시각적 패턴을 파악할 수 있지만 근본적인 생물학적 논리는 파악할 수 없습니다.