Q&A: 인류학자가 AI 뒤에 숨은 사람들에 대한 커튼을 걷습니다 | 베타킷

AI는 광범위한 문화적 개념이 되었습니다. 이 두 글자는 인스타그램의 동물 비디오 슬롭, 클로드 코드, SF 적대자 또는 의사가 피부암을 감지하는 데 사용하는 알고리즘을 나타낼 수 있습니다. 그것은 큰 양동이이며 기술을 자율적이고 불투명한 것으로 일관되게 취급하는 것입니다.

그의 새 책에서는 AI 사람들, 인류학자 조셉 윌슨(Joseph Wilson)은 이 이야기의 막을 열어 AI 이야기의 가장 중요한 부분인 인간을 폭로합니다. Wilson은 토론토 AI 칩 제조 연구소와 글로벌 데이터 주석 네트워크에 참여했으며 기술 뒤에 있는 인간의 힘을 이해하기 위해 저명한 지지자 및 비평가들과 이야기를 나눴습니다.

베타킷 수석 편집자 Sarah Rieger는 Wilson과 함께 AI 개발자의 습관과 문화를 연구하고 싶은 이유, 기술 뒤에 숨은 작업, 그리고 독자가 그녀의 연구에서 무엇을 배우기를 바라는지에 대해 논의했습니다.

다음 인터뷰는 명확성과 길이를 위해 편집되었습니다.

언론인 외에 AI에 관해 글을 쓰는 대부분의 사람들은 기술 평론가이거나 기술 평론가입니다. 이 주제에 인류학자의 관점을 적용하려는 이유는 무엇입니까?

과학에는 과학이 어떻게든 문화 밖에 있다는 느낌이 있습니다. 지저분한 사회세계에 물들지 않으려고 노력한다는 것. 하지만 물론 그렇습니다. 모든 것이 있습니다.

특히 AI는 인간이 된다는 것이 무엇을 의미하는지에 대한 과학적 조사, 공개 적용, 수사를 자극적으로 혼합해 왔습니다. 그래서 이러한 큰 사회적 질문과 과학과 기술에 관한 이러한 큰 질문은 매우 혼란스럽습니다. 그것이 바로 인류학자들이 좋아하는 혼란입니다.

인공지능에는 인공적인 것이 없다고 쓰셨는데요. AI를 외계인, 전능자, 심지어 의인화한 것으로 취급할 때 어떤 위험이 있다고 생각하시나요?

첫 번째는 우리가 사물에 대한 은유를 착각하면 윤리적 의사 결정 능력을 부여하기 시작한다는 것입니다. 우리는 이러한 시스템이 단순히 할 수 없는 특성을 부여하기 시작합니다. 우리는 무의식적으로라도 그것이 인간을 모델로 한다면 감정을 느끼거나, 윤리적 결정을 내리거나, 자기 성찰을 하는 등 다른 인간적인 일을 할 수 있을 것이라고 생각하기 시작합니다.

그것은 기술적으로 어떻게 작동하는지에 대한 정말 흥미로운 오해입니다. 그렇죠? 사람들이 “아, AI는 항상 학습합니다”라고 말하는 것을 자주 듣습니다. 그러나 이러한 모델은 구축된 방식이 아닙니다. 훈련을 받은 다음에는 정체되어 있습니다.

이러한 시스템을 너무 의인화하는 것에 대해 제가 걱정하는 두 번째 점은 시스템을 만드는 데 필요한 실제 인간 작업을 의도적으로 모호하게 하고 삭제한다는 것입니다. 사람들은 이것을 해냈습니다.

따라서 이는 단순한 기술 스택이 아니라 인간 스택입니다. 당신이 쓴 인간 스택의 계층 중 하나는 유령 노동자입니다. 그들은 누구입니까?

유령 노동(Ghost work)은 전산 사회학자와 함께 전 세계의 작업 패턴을 분석한 또 다른 인류학자 메리 그레이(Mary Gray)가 만든 용어입니다. 그녀는 앱과 인터페이스가 원활하고 자동으로 작동하는 것처럼 보이도록 사람들, 특히 남반부 지역의 사람들이 뒤에서 어떻게 작업하는지 살펴보았습니다. 이들은 폭력이나 성적인 이미지와 같은 유해한 데이터를 필터링하는 매우 불쾌한 작업을 수행하는 사람들입니다. 또는 AI가 자율 주행 자동차 및 보안 비디오에 대한 이미지 감지 및 비디오 감지를 개선할 수 있도록 데이터에 태그를 지정합니다.

모든 대형 기술 회사는 기본적으로 이 데이터 작업을 작은 작업으로 나누고 사람들이 작업에 대한 대가를 받기 때문에 이러한 시스템을 사용합니다. 그래서 그것은 일종의 조립 라인 모델과 같습니다. 그 일은 기껏해야 불안정하고 잠재적으로 정말 큰 충격을 줄 수 있습니다. 그리고 직업 보장이 없기 때문에 그들 중 많은 사람들이 건강 관리도 받지 못합니다. 그들은 자신들이 하고 있는 일에 대해 이야기하는 것조차 허용되지 않는다고 NDA에 서명합니다.

당신은 토론토의 한 회사에서 NextChipAI라는 가명으로 책에서 언급한 AI 칩을 만드는 데 18개월을 보냈습니다. 내가 정말 하고 싶은 일은 건너뛰겠습니다. 즉, 어떤 회사인지 추측해 보는 것입니다. 그 환경에 있는 것이 어땠는지 말해줄 수 있나요?

AI가 독립형으로 판매될 뿐만 아니라 이런 무형의 클라우드로도 판매되기 때문에 너무 흥미로웠습니다. 여기에는 클라우드 비유가 적합합니다. 우리는 데이터 센터에 대한 열광을 통해 이러한 대규모 모델을 실행하기 위해 구축해야 하는 매우 실제적인 물리적 인프라가 있다는 것을 알고 있습니다.

관련: 미국은 캐나다 칩을 좋아합니다.

그래서 저는 인턴이었습니다. 이 회사는 컴퓨터 칩을 제조합니다. 이는 소다 크래커 크기 정도이며 생성 AI를 구성하는 신경망을 실행하도록 설계되었습니다. 저는 부엌에서, 커피 머신 옆에서, 그리고 회의에서 이 엔지니어들이 어떻게 함께 일했는지, 어떻게 종이에 적힌 아이디어에서 수십억 개의 트랜지스터가 빛으로 표면에 새겨져 있는 거의 마법 같은 일로 발전했는지 알아보려고 시간을 보냈습니다.

그들이 하고 있는 작업의 물리적인 세부 사항 중 일부가 정말 인상적이었습니다. 실리콘에 사용되는 모래의 종류 또는 엔지니어가 제조 오류를 찾아내기 위해 칩 냄새를 맡는 방법을 자세히 설명합니다.

그것은 구체화된 작업입니다. 내장된 지식입니다. 이 사람들은 온 몸과 전문 지식을 사용합니다. 이 모든 것이 어떻게 전개되는지 보는 것은 매우 우아합니다. 그들이 합동으로 춤을 추면서 이 놀라운 제품이 탄생했습니다.

그 우아함은 당신이 관찰한 엔지니어들의 사고방식, 즉 회의주의와 문제 해결 기술에 초점을 맞춘 사고 방식에 약간 반영된 것 같습니다. 당신은 이를 목격하는 것과 때로는 AI 제품을 판매하는 사람들의 팡파르 사이의 단절을 설명합니다.

재미있다. 제가 함께 일했던 엔지니어들은 이것이 보편적이라고 생각하지 않습니다. 왜냐하면 실리콘 밸리에는 다른 종류의 톤이 있기 때문입니다. 하지만 어쨌든 여기 토론토에서, 특히 하드웨어 작업을 하는 엔지니어들은 AI를 잠재적으로 의식이 있거나 심지어 지능적인 시스템으로 이야기하는 데 거의 또는 전혀 관심이 없습니다.

그들은 소시지가 어떻게 만들어지는지 알고 있으며 마케팅 부서의 주장에 회의적입니다. 하지만 그들은 돈을 모아야 하고, 돈을 모으는 방법은 이야기를 하는 것입니다. 하지만 그들은 AI 이야기에서 밀려난 것에 상처를 받는 경우가 많았다. 힘들고 복잡한 그들의 작업 – 이 사람들은 주말과 저녁에 일하며 가족을 만나지 않습니다 – 그들의 작업이 기록됩니다.

AI에 들어가는 작업을 난독화하는 것이 의도적이라고 생각하시나요?

예. 그리고 음모적인 방식이 아닙니다. 과학의 과정은 종종 노동력을 없애는 경향이 있습니다. 왜냐하면 제품이 독립되기를 원한다는 생각 때문입니다. 그렇죠? 그러나 AI에는 이러한 시스템을 자율적이고 초인적인 지능을 갖춘 시스템으로 판매하기 위해 의도적으로 수행되는 추가 계층이 있습니다. 그것은 논쟁의 일부입니다. 인간은 필요하지 않습니다.

당신의 책을 읽으면서 제가 접하게 된 용어는 “비판”이라는 개념입니다. 이것이 무엇을 의미하는지 설명해 주실 수 있나요?

요점은 두 가지 주장이 있다는 것입니다. 첫째, AI는 이러한 초지능 시스템을 통해 문제가 해결되는 영광스러운 미래로 이어질 수 있습니다. 반대 측면은 우리가 통제력을 상실할 수 있고 그것이 인류의 파멸로 이어질 수 있다는 것입니다.

표면적으로 그들은 반대처럼 보입니다. 그러나 나는 기술을 인류를 멸망시킬 무언가로 비판하는 것은 기술이 그렇게 할 만큼 강력하다는 것을 인정하는 것과 같다고 주장하며, 이러한 비판적 과대광고 개념은 이를 보여줍니다.

관련: AI 버블의 위험 신호 흔들기

따라서 Anthropic과 OpenAI의 이러한 비판과 멸종 이야기는 대화를 훨씬 더 열광적으로 만드는 역할을 할 뿐입니다. AI 개발 중단을 요구한 사람들은 여전히 ​​IPO를 진행 중이다.

나는 그것이 반드시 100% 냉소적이거나 ​​악의적이라고 생각하지 않습니다. 그들 중 일부는 실제로 그렇게 생각하고 다소 걱정하고 있다고 생각합니다. 그러나 그것은 그런 영향을 미칩니다. 이 사람들은 기업가이지만 사회적 영향 전문가는 아닙니다.

인공 지능 컨퍼런스에 참석한 한 참석자가 “이 모든 것 이전에 윤리에 대해 생각할 필요가 없었습니다”라고 중얼거렸다고 언급하세요. 정말 웃기는 일이죠. 왜냐하면 윤리는 항상 기술의 일부였거든요. 하지만 아마도 지금까지는 기술 윤리에 대한 대중의 관심이 그렇게 예민하지 않았던 것 같은데요?

예. 나는 그것이 많은 사람들을 방심하게 만들었다고 생각합니다. 엔지니어들이 퍼즐과 정말 어려운 문제에 대한 집착에 대해 항상 이야기하는 것을 듣습니다. 그러나 윤리 문제는 많은 사람들에게 너무 어려운 문제입니다. 본질적으로 이는 답변이 없는 질문이거나 적어도 명확하고 명확하며 식별 가능한 답변이 없는 질문입니다.

이정도로 깔끔하면 참 좋을텐데

글쎄, 그것은 플랫폼에 좋고 쉬울 것입니다. 하지만 삶을 흥미롭게 만드는 것 중 하나는 역동성입니다. 우리의 친구와 가족은 우리를 놀라게 하고, 화나게 하고, 기쁘게 합니다.

독자들이 이 책을 통해 무엇을 얻었으면 좋겠나요?

AI가 어떻게 만들어지는지에 대한 감각: 의도적으로 전 세계에 분포된 엄청나게 다양한 사람들에 의해 만들어졌습니다.

내 책이 할 수 있기를 바라는 가장 근본적인 일은 사람들이 종종 이해하지 못하는 것에 대한 두려움과 불안을 덜어주는 것입니다. 이 복잡한 현상은 인간이 만들어낸 것이다.

사람들이 이해하지 못하는 것은 판매 홍보의 일부입니다. 마치 “무서워하시네요. 이해하지 못하시네요. 해보자. 우리가 더 잘 압니다.”

두려움에 떨기에는 즐거운 곳이 아닙니다. 우리는 더 나은 것을 요구할 수 있습니다. 우리는 데이터 관행, 노동 관행, 규정에 대해 더 많은 투명성을 요구할 수 있습니다. 여기서 우리는 함께 앞으로 나아가고 의도적으로 무엇을 하고 싶은지 파악할 수 있습니다.

주요 이미지 제공: Joseph Wilson.