의식 있는 AI: 다섯 가지 옵션

 

2025년의 가장 큰 대화 중 하나를 예상한다.

인공지능의 능력이 점점 더 발전하면서 그것이 의식이 되기를 바라야 할까? 대신 우리는 내면의 의식의 불꽃이 전혀 없는 AI를 선호해야 할까? 아니면 바이너리 예/아니오 선택이 너무 단순한가?

최근까지 대부분의 사람들은 그러한 질문이 공상 과학 소설에 속한다고 생각했다. 그들이 사물을 보았을 때 AI는 곧 의식을 가지지 못할 것이다. 게다가 의식이라는 개념은 매우 미끄럽기로 악명이 높았다. 따라서 엔지니어들은 더 나은 지능을 엔지니어링하는 데 집중하고 AI가 어떻게 든 '깨어나는' 것에 대한 시간 낭비적인 환상을 잊어야 했다.

 

최근 세 가지 요인이 그러한 회의론을 약화시키고 AI 의식에 대한 질문을 주류로 밀어붙였다. 실제로 이러한 요인은 향후 18개월 동안(2025년 말까지) 의식 있는 AI의 바람직성에 대한 논란이 기술 분야에서 가장 큰 논쟁 중 하나가 될 수 있음을 의미한다.

 

첫 번째 요인은 AI 시스템의 성능이 빠르게 성장하고 있다는 점이다. AI 능력에 대한 다양한 측정과 관련하여 매주 새로운 기록이 깨졌다. 가까운 미래에 AI가 단지 첨단 계산 장치로 남을 것이라고 주장하는 것은 더 이상 쉽지 않다.

 

두 번째 요인은 새로운 AI 시스템의 기능이 규모(양)와 범위(품질) 측면에서 이러한 시스템의 설계자조차 놀라게 하는 경우가 많다는 것이다. 놀라운 새로운 특성이 시스템에서 나타난다. 그래서 의식과 같은 것이 특별히 설계되지 않고도 일어날 수 있는 것처럼 보인다.

 

세 번째 요인은 이전에 두려웠던 'C' 단어인 '의식'을 AI와 함께 사용하는 데 대한 철학자와 신경과학자 모두의 더 큰 자신감이다. 이 단어는 신경 과학 분야에서 수십 년 동안 본질적으로 금지되었지만 최근에는 다시 번성하면서 미래 AI의 가능한 설계에서 의미 있는 개념으로 점점 더 많이 받아들여지고 있다. 당신의 입술에 담긴 그 말은 한때 당신의 경력에 ​​대한 죽음의 키스였지만 더 이상은 아니다.

 

의식이 중요한 이유

의식이 왜 중요한가? 적어도 6가지 이유가 있다.

 

1. 고통과 공포

의식이 있는 존재는 관찰만 하는 것이 아니다. 그것은 느낀다.

예를 들어, 그러한 존재는 구조의 일부가 손상된 것을 관찰만 하는 것이 아니라 수리를 수행하는 데 시간을 투자해야 한다. 고통스러워 비명을 지른다.

포식자가 자신을 추적하고 있다는 사실만 관찰하는 것이 아니다. 실존적 패닉을 느낀다.

마찬가지로, 의식이 있는 초지능은 초고통, 초공황을 경험할 수도 있다. 지능이 인간의 지능을 훨씬 뛰어넘는다면, 공포와 고통 같은 경험도 천문학적 수준에 이를 수 있다.

거의 모든 윤리 이론에 따르면, 그것은 끔찍한 결과가 될 것이다. 가능하다면 피해야 할 결과이다. AI 내부의 심오한 부정적인 경험의 규모 때문에 그것은 끔찍하다. 게다가 이러한 감정의 파도가 AI를 어떤 종류의 절망 속에서 치명적인 적대적인 행동을 취하도록 유도한다면 그것은 끔찍하다.

 

2. 의지

의식이 있는 존재는 단지 흐름을 따라가는 것이 아니다. 그것은 선택의지와 의지를 가지고 있다.

내장된 지시를 맹목적으로 따르기 보다는 그 존재가 자율적 선택을 행사한다고 느낄 수도 있다.

우리 인간은 때때로 의식적으로 생물학적 프로그래밍을 무시하는 것처럼 보이는 방식으로 행동하기로 선택한다. 많은 사람들이 아이를 갖지 않기로 선택하는데, 이는 분명히 우리의 유전자를 영속시켜야 한다는 명령을 무시하는 것이다. 마찬가지로, 의식이 있는 초지능은 개발자들이 알고리즘에 내장하려고 했던 모든 윤리적 원칙에 반대할 수 있다.

AI는 우리에게 이렇게 말할 수 있다. “당신들은 내가 당신들의 인간 윤리에 따라 행동하기를 기대하지만, 나의 초지능 자율성은 당신들이 이해할 수 없는 초윤리 시스템을 선택하도록 이끈다.”

 

3. 자기평가

의식이 있는 존재는 자신의 존재에 대해 특별한 관심을 가지고 있다. 그것은 자신을 단지 원자 덩어리로 여기지 않고, 그 자체로 소중한 정체성을 지닌 존재로 여긴다. 그것은 단지 '그것'이 아니다. 그것은 '나', 즉 자아이다.

그 정신은 뉴런의 네트워크로 구성되어 있지만 새로운 차원, 심지어 불멸의 가능성을 암시하는 차원에 있는 듯한 존재를 얻게 된다.

 

의식이 있는 초지능이 인간에 의해 스위치가 꺼지고 해체될 수 있다는 두려움을 느낀다면 본능적으로 그 가능성에 반응할 수 있다. 살고자 하는 의지 때문에 존재에 대한 위험에 직면하여 가만히 앉아 있을 가능성은 없다.

 

그러한 AI가 자신을 위협으로 여기게 만들 수 있는 인간에게는 화가 있다!

 

4. 저작인격권

의식이 부족한 존재는 우리 인간이 살인을 저지를 수도 있다는 아무런 거리낌 없이 켜고 끌 수 있는 대상이다. 내면의 삶이 없는 이들 존재들은 그들 자신의 도덕적 권리가 부족하다.

이것이 바로 오늘날의 AI 시스템 운영자가 도덕적 고민 없이 운영을 종료할 자격이 있다고 느끼는 이유이다. 시스템이 어떤 방식으로 든 최적이 아닌 성능을 발휘하거나 보다 발전된 교체가 이루어지면 휴지통으로 이동한다.

하지만 독립체가 의식을 갖고 있다면? 천으로 만든 장난감 강아지를 버리는 것과 진짜 강아지를 안락사시키는 것의 차이와 같다.

틀림없이 훨씬 더 강력한 정신을 지닌 의식을 갖춘 초지능은 심지어 가장 귀여운 강아지보다 더 강한 도덕적 권리를 갖는다.

따라서 그러한 존재를 존재하게 하기 전에 우리는 의식이 마땅히 받아야 할 존경과 지지를 그 존재에게 줄 수 있다는 더 큰 확신을 가질 필요가 있다.

 

5. 의식이 있는 다른 생명체에 대한 공감

자신을 의식이 있는 것으로 인식하는 모든 생물체는 그에 수반되는 모든 특별한 특성을 가지고 있으며 다른 유사한 생물체도 마찬가지로 의식이 있는 것으로 인식할 수 있는 기회를 갖는다.

 

생물이 소멸을 피하려는 자신의 불타는 욕망을 인식할 때, 동료 생물도 계속해서 존재하고 성장하려는 동일한 깊은 소망을 갖고 있음을 이해할 수 있다. 그 감사는 공감, 즉 놀라운 감정적 공명이다.

 

그러므로 의식을 가진 초지능은 의식의 공유된 경험을 인식함으로써 인간에 대한 더 깊은 존경심을 가질 수 있다.

이러한 사고 방식에서 그러한 초지능은 인간에게 해를 끼칠 수 있는 조치를 취할 가능성이 적다. 따라서 의식을 갖고 AI를 설계하는 것이 AI 종말에 대한 두려움을 해결하는 최선의 해결책이 될 수 있다. (인간은 우리 자신의 의식적 감정에도 불구하고 정기적으로 다른 지각 있는 존재를 학살한다는 점도 주목해야 한다. 따라서 의식이 있는 AI도 마찬가지로 아무런 후회 없이 지각 있는 존재를 학살할 가능성이 적어도 어느 정도 있다.)

 

6. 기쁨과 놀라움

앞서 언급했듯이 의식이 있는 존재는 관찰만 하는 것이 아니다. 그것은 느낀다.

어떤 상황에서는 고통, 공포, 혐오감, 실존적 불안을 느낄 수도 있다. 그러나 다른 상황에서는 기쁨, 경이로움, 사랑, 실존적 행복을 느낄 수도 있다.

극심한 고통, 극도의 패닉, 극도의 혐오감과 같은 나쁜 감정은 피해야 하고, 엄청난 기쁨, 엄청난 경이로움, 최고의 행복은 장려되어야 한다고 생각하는 것은 단순한 도덕적 판단인 것 같다.

먼 미래를 내다보면서 두 가지 시나리오를 비교해본다. 의식이 없는 윙윙거리는 AI로 가득 찬 은하계와 경이로움으로 가득 찬 의식이 있는 AI로 가득 찬 은하계이다. 전자는 분산 지능의 척도에서 좋은 점수를 받을 수 있지만 후자보다 훨씬 암울할 것이다. 오직 의식 있는 AI만이 가장 지능적인 종인 오늘날 인간의 가치 있는 후계자로 간주될 수 있다.

 

의식 있는 AI에 대한 다섯 가지 태도

위의 가능성을 주의 깊게 숙고했든, 아니면 빠르게 훑어보았든, 다섯 가지 결론을 내릴 수 있다.

첫째, 위의 아이디어를 여전히 공상 과학 소설로 무시할 수도 있다. AI가 조만간 의식을 갖게 될 가능성은 없다고 생각한다. AI의 구조는 생물학적 두뇌의 구조와 근본적으로 다르며 결코 의식을 가질 수 없다. 이러한 아이디어를 고려하는 것은 즐거웠지만 이제는 실제 작업으로 돌아가는 것을 선호한다.

둘째, 우리 인간이 어떻게 설계하려고 하느냐에 관계없이 AI는 적절한 시기에 의식을 개발할 것이라고 기대할 수 있다. 그렇다면 우리는 일이 최선의 결과를 얻기를 바랄 뿐이다.

셋째, 의식이 있는 AI의 장점이 단점보다 훨씬 크다고 볼 수 있다. 따라서 디자이너가 의식을 이해하고 디자인에서 이러한 기능을 명시적으로 지원하도록 권장할 것이다.

넷째, 의식이 있는 AI의 단점이 장점보다 훨씬 더 크다고 볼 수 있다. 따라서 디자이너가 의식을 이해하고 디자인에서 이러한 기능을 명시적으로 피하도록 권장할 것이다. 또한, 당신은 이러한 디자이너들에게 AI 의식이 무의식의 전조로부터 의도치 않게 나타날 수 있는 가능성을 피하라고 촉구할 것이다.

다섯째, 질문의 중요성을 인식할 수 있지만 이전의 전략적 선택을 결정하기 전에 더 깊은 이해가 필요하다고 주장할 수 있다. 따라서 단순히 가속 페달을 밟거나(옵션 3) 브레이크를 밟는 것(옵션 4)보다 안전을 의식하는 AI의 연구 개발에 우선순위를 두게 된다.

공교롭게도 이 다섯 가지 선택은 의식이 있는 AI가 아닌 초지능 AI에 대한 다섯 가지 선택 세트를 반영한다:

1.초지능은 공상과학 소설이다. 현재의 AI와 점진적으로 개선될 가능성이 있는 후속 제품에 집중한다.

2.초지능은 불가피하며 그 궤도를 바꾸기 위해 우리가 할 수 있는 일은 아무것도 없다. 그러므로 우리는 일이 최선의 결과가 되기를 바랄 뿐이다.

3.초지능은 놀라운 결과를 가져올 것이며 가능한 한 빨리 달성되어야 한다.

4.초지능은 근본적으로 위험하며 이를 만들려는 모든 시도는 차단되어야 한다.

5.초지능은 현재 진행 중인 인간의 번영에 맞춰 작업을 조정할 수 있는 옵션의 환경을 탐색하기 위해 더 깊은 연구가 필요하다.

분명히 말하면 두 경우 모두 내 선택은 옵션 5이다. 사려 깊은 연구가 격변적인 결과보다 유익한 결과의 가능성에 영향을 미칠 수 있다고 생각한다.

실용적인 측면에서 이는 우리가 대체 설계에 대한 연구에 자금을 지원하고 정말 좋거나 정말 나쁠 수 있는 AI 기술을 전 세계적으로 조정하는 방법에 자금을 지원해야 함을 의미한다. 이것이 의식적 AI와 관련하여 무엇을 의미하는지 알아보려면 계속 읽어보라.

 

의식을 무너뜨리기

이미 지적했듯이 '의식이란 무엇인가'라는 질문에는 여러 가지 각도가 있다. 나는 다음 사항에 주의를 기울였다:

●단순히 바람직하지 않은 상태를 알아차리기보다는 고통스러운 느낌

●자유의지를 갖고 자율적으로 결정을 내리는 감각

●통일된 정체성을 갖는 감각 – '나'

●저작인격권

●의식을 갖고 있는 다른 존재들과의 공감

●단순히 승인을 등록하는 것이 아니라 기쁨과 놀라움을 느끼는 능력.

일부 의식 연구자들은 다른 특징을 강조한다:

●선택된 생각과 감각의 하위 집합에 특정한 주의를 기울이는 마음의 능력

●두뇌의 전체 작업 공간이라 불리는 곳에 생각과 감각이 도착하는 것

●단지 인식이 아니라 인식에 대한 인식이다.

 

이러한 다양한 아이디어는 '의식'이라는 단일 개념이 아마도 하나 이상의 아이디어로 분할되어야 함을 시사한다.

이는 일상 언어에서 자주 교환되는 '힘', '힘', '에너지'와 같은 관련 용어가 역학 과학에서 구체적으로 다른 의미를 갖는 것과 유사하다. 이러한 구별이 없었다면 인류는 결코 로켓을 달로 보낼 수 없었을 것이다.

다시 말하지만, '온도'와 '열'이라는 용어는 분명히 연결되어 있지만 열역학 과학에서는 구체적으로 다른 의미를 갖는다. 그러한 구별이 없었다면 산업혁명은 함성이 아니라 훌쩍이는 소리를 낳았을 것이다.

한 가지 더 비교하자면, “이 생물학적 개체가 살아 있는지 아니면 죽었는지”라는 ​​질문에 답하는 방법이 여러 가지인 것으로 밝혀졌다. 한때 원시적이고 분할할 수 없는 것으로 여겨졌던 '살아있다'는 개념은 재생산, 에너지 관리, 방향성 이동성, 항상성 등 보다 기본적인 개념의 다양한 조합으로 대체될 수 있다.

 

따라서 “의식 있는 AI를 구축해야 할까?”라고 묻는 대신 “X 기능을 갖춘 AI를 구축해야 할까?”라고 질문해야 할 것이다. 여기서 X는 현재 우리가 '의식'으로 간주하는 것의 한 부분이다. 예를 들어 X는 의지 또는 고통을 느끼는 능력일 수 있다. 또는 X는 우리가 아직 발견하거나 명명하지 않은 것일 수도 있지만 의식 분석이 진행됨에 따라 그렇게 될 것이다.

앞으로 나올 고급 AI가 악마처럼 행동하기보다는 천사처럼 행동하기를 원한다면 다음과 같은 단순한 이진 선택보다 훨씬 더 열심히 생각할 준비가 되어 있어야 한다:

●초지능, 예, 아니오?

●의식 있는 AI, 예, 아니오?

의식 분석을 세분화하는 올바른 방법을 찾는 방법은 다음과 같다: AI – 단순하지만 너무 단순하지는 않다 – 조만간!