'기계 의식'의 광기

Nov 11, 2023

의식은 생물학적 존재에서만 발생하는가? 아니면 자신의 내부 상태를 관찰하고, 상호 작용하고, 표현하는 컴퓨터가 의식을 일으킬 수도 있습니까? 이것은 IAI의 최근 토론 '기계 속의 의식'에서 Bernardo Kastrup, Susan Schneider 및 Donald Hoffman에게 제기된 질문 중 일부였습니다. Bernardo Kastrup은 Susan Schneider와의 논쟁과 불일치에 대해 반성합니다.

저는 최근 인공 지능(AI) 소프트웨어를 실행하는 실리콘 컴퓨터가 의식을 갖게 될 것인지에 대한 질문에 대해 도널드 호프만(Donald Hoffman)과 수잔 슈나이더(Susan Schneider)가 옆에 참석한 IAI가 주최한 토론에 참여했습니다. 형이상학적 이상주의자로서 나는 의식이 어떤 기질(생물학적이든 아니든)에 의해 생성되지 않는다고 믿습니다. 왜냐하면 그것이 일차적이기 때문입니다. 그러나 자연의 나머지 부분과 분리되어 있고 물리적 실체의 경계로 묘사되는 사적이고 의식적인 내면의 삶은 분명히 생물학과 함께 출현한 것입니다. 그래서 나에게 질문은 다음과 같이 해석됩니다: 실리콘 컴퓨터와 관련하여 개인 의식이 잠재적으로 발생할 수 있습니까?

이 질문은 내 마음에 매우 가깝습니다. 왜냐하면 나는 철학자보다 오랫동안 컴퓨터 엔지니어로 일해왔기 때문입니다. 나에게 있어 '의식 있는 AI'라는 가설은 FSM(Flying Spaghetti Monster)의 가설만큼 그럴듯하다. 나는 FSM을 단호하게 반박할 수 없는 것과 같은 이유로 이 가설을 단호하게 반박할 수 없다는 것을 인정합니다. 그러나 FSM과 마찬가지로 우리도 가설을 진지하게 받아들일 만한 타당한 이유가 전혀 없다고 생각합니다. 이유는 다음과 같습니다.

추천 독서 거대 기술 기업은 AI가 의식하는 것을 원하지 않습니다. 작성자: Susan Schneider

나는 이 글을 쓰는 데 사용하는 바로 그 iMac에서 신장 기능에 대한 상세한 시뮬레이션을 실행할 수 있으며 분자 수준까지 매우 정확합니다. 그러나 제정신의 사람이라면 시뮬레이션이 아무리 정확하더라도 내 iMac이 시뮬레이션을 실행할 때 책상 위에 갑자기 소변을 볼 수 있다고 생각하지 않을 것입니다. 결국, 신장 기능 시뮬레이션은 신장 기능이 아닙니다. 그것은 시뮬레이션된 것과 비교할 수 없는 시뮬레이션입니다. 우리 모두는 소변 생성의 경우 이러한 차이를 어려움 없이 이해합니다. 그러나 의식에 관해서는 어떤 사람들은 갑자기 비판적 추론 능력을 잃습니다. 그들은 인간 두뇌의 정보 흐름 패턴에 대한 시뮬레이션이 실제로 인간 두뇌처럼 의식을 갖게 될 수 있다고 생각합니다. 얼마나 특이한가.

건전한 타당성을 포기하는 것은 어디에서 오는가? 의식 있는 AI에 대한 가설을 진지하게 받아들이는 사람들은 인간이 생각하는 방식과 AI 컴퓨터가 데이터를 처리하는 방식 사이의 형태 또는 유사성의 일치인 동형성(isomorphism)이라는 끔찍할 정도로 편향된 개념을 기반으로 합니다. 그러나 그러한 유사성을 찾으려면 구체적이고 경험적인 현실에서 추상화하는 여러 단계를 거쳐야 합니다. 결국, 실제 인간의 두뇌와 실제 실리콘 컴퓨터를 테이블 위에 펼쳐 놓으면 구조적으로나 기능적으로 얼마나 다른지 압도당하게 될 것입니다. 촉촉한 뇌는 탄소를 기반으로 하며 에너지를 위해 ATP를 연소하고 신진대사를 통해 기능하며 신경전달물질 방출을 통해 데이터를 처리합니다. 반면에 건식 컴퓨터는 실리콘을 기반으로 하며 전위차를 에너지로 사용합니다. 전하를 이동시키고, 트랜지스터라고 불리는 전기 스위치를 열고 닫아 데이터를 처리합니다.

AI 컴퓨터와 생물학적 뇌 사이의 모호한 동형은 정보 흐름의 실체 없는 패턴이 비교되는 매우 높은 수준의 순전히 개념적 추상화(구체적이고 경험적인 현실과 상당히 단절됨)에서만 발견됩니다. 따라서 '의식 있는 AI'를 믿으려면 보다 구체적인 수준에서 압도적인 차이점을 임의로 무시해야 하며, 그런 다음 모호한 유사점이 발견될 수 있는 매우 구체적이고 높은 수준의 추상화만 고려하도록 선택해야 합니다. 이것을 희망적 사고가 아닌 다른 것으로 설명할 수 있습니까?