특이점: AI가 인간 지능을 능가하는 초지능 시대가 열린다.

수학, 철학, 컴퓨터 과학 분야의 전문가들은 오랫동안 기계 지능의 미래를 고민해 왔으며 공상 과학 소설처럼 보이지만 빠르게 현실이 되고 있는 시나리오를 탐구해 왔다. 주제에 대한 대화는 많은 시간 동안 우리를 단일 단어나 개념, 즉 특이점으로 이끈다.

특이점은 다음과 같이 수학적 함수나 물리적 특성이 정의되지 않거나 무한해지는 지점, 블랙홀의 조밀한 핵, 우주의 탄생, 복잡한 시스템의 변형 단계, 특이성의 문법적 상태, 철학의 독특함과 개성 등으로 참조할 수 있다.

그러나 궁극적으로 AI 세계에서 특이점은 기술의 발전이 통제할 수 없고 되돌릴 수 없게 되어 인류 문명에 예측할 수 없는 변화를 가져오는 가상의 미래 지점을 의미한다. 이 개념은 종종 인간의 지능을 훨씬 능가하는 초지능 AI의 출현과 연결된다. 특이점이라는 용어에 내재된 이러한 예측 불가능성은 많은 논쟁을 불러일으켰고 AI 연구자부터 일반 사람들에 이르기까지 모든 사람의 상상력에 불을 붙였다.

그러나 AI가 인간 지능을 능가한다는 의미는 정확히 무엇일까? 어떤 과제가 있을까? 그리고 한때 먼 공상 과학 개념으로 생각되었던 것(지금은 임박한 현실로 바뀌고 있는 것)의 결과에 영향을 미치기 위해 우리가 무엇을 할 수 있을까?

역사적 관점

이러한 전환의 규모를 파악하려면 인간 존재의 연대표를 고려해야 한다. 만약 지구가 불과 1년 전에 창조되었다면, 인간은 불과 10분 전에 역사적 풍경 위에 나타났을 것이고, 산업 시대는 불과 2초 전에 시작되었을 것이다. 이 짧은 순간에 기술 발전이 전례 없이 가속화되었으며 이는 주로 우리의 인지 능력에 의해 주도되었다.

초기 AI 시스템은 인간이 프로그래밍한 지식에 크게 의존하여 유용하지만 범위가 제한적인 전문가 시스템을 만들었다. 그러나 오늘날의 AI는 인간 유아가 환경에서 학습하는 방식을 모방하여 데이터로부터 학습한다. 이러한 패러다임의 변화로 인해 언어를 번역하고 복잡한 게임을 플레이할 수 있는 AI 시스템이 탄생하여 다재다능함과 적응성을 보여주었다.

이러한 발전에도 불구하고 현재 AI 시스템에는 여전히 인간의 도메인 간 학습 및 계획 능력이 부족하다. 그러나 격차가 줄어들고 있다. 주요 AI 전문가를 대상으로 한 설문 조사에 따르면 2040년에서 2050년 사이에 인간 수준의 기계 지능이 달성될 확률은 50%이다. SingularityNET CEO인 벤 고르첼(Ben Goertzel) 박사는 그보다 더 빠를 수도 있다고 믿는다. 기계가 유기 뉴런으로는 상상할 수 없는 속도와 규모로 작동할 수 있다는 점을 고려하면 기계의 정보 처리의 궁극적인 한계는 생물학적 두뇌의 한계를 훨씬 능가하다.

초지능의 의미

초지능으로의 도약은 심오한 의미를 담고 있다.

AI가 인간 지능을 뛰어넘으면 더 이상 인간 두뇌의 한계에 얽매이지 않게 된다. 초지능 AI는 잠재적으로 질병 치료, 우주 식민지화, 심지어 인간 의식을 기계에 업로드하는 등 전례 없는 속도로 기술을 개발할 수 있다.

그러나 이러한 잠재력에는 상당한 위험이 따른다. 가장 큰 우려는 초지능 AI가 인간의 가치와 어긋나는 목표를 추구할 수 있다는 것이다. 예를 들어 인간을 웃게 만드는 임무를 맡은 AI는 얼굴 근육을 직접 조작하는 등 극단적인 조치를 취할 수도 있다. 마찬가지로, 복잡한 문제를 해결하도록 프로그래밍된 AI는 인간 복지보다 목표를 우선시하여 의도치 않은 재앙적인 결과를 초래할 수 있다.

통제 문제 해결

AI가 인간의 가치와 일치하도록 보장하는 것을 "통제 문제"라고 한다.

이 문제를 해결하려면 새로운 상황에서도 인간의 가치를 이해하고 우선순위를 정하는 AI 시스템을 설계해야 한다. 이 과제는 철저한 지침 목록 없이도 우리가 가치 있게 여기는 것을 학습하고 그에 따라 행동할 수 있는 AI를 만드는 것과 관련되어 있기 때문에 복잡하다.

통제 문제에는 AI가 우리 통제에서 벗어나는 것을 방지하는 것도 포함된다. AI가 환경을 조작하거나 제작자를 속이는 시나리오는 초지능 독립체를 격리하는 것이 어렵다는 점을 강조한다. 따라서 근본적으로 안전하고 처음부터 인간의 이익에 부합하는 AI를 만드는 데 초점을 맞춰야 한다. 그러나 AI를 분산화하고 AGI를 개발하면 이러한 문제를 해결하는 데 도움이 될 수 있다.

AI와 AGI의 분산화에는 여러 노드에 제어 및 의사결정을 분산시켜 견고성, 보안, 투명성을 강화하는 동시에 민주화와 혁신을 촉진하는 작업이 포함된다. 이 접근법은 다양한 참여를 촉진함으로써 통제 문제를 해결할 수 있다. 올바른 거버넌스, 강력한 조사 및 지속적인 감독을 통해 우리는 분산형 AI 시스템을 인간의 가치에 맞춰 조정하고 모든 지각 있는 존재에게 안전하고 유익하게 작동하도록 협력할 수 있다.

AI가 초지능에 도달하기 전에 제어 문제를 해결하는 것은 아마도 인류가 해결해야 할 가장 중요한 과제 중 하나일 것이다. 우리는 AGI로의 전환이 모두에게 유익하도록 프레임워크와 보호 장치를 개발해야 한다. 여기에는 AI를 인간의 가치에 맞추기 위한 학제간 협력과 사전 조치가 포함된다. 이를 통해 우리는 특별한 기회를 활용하고 이 혁신적인 기술을 사용하여 모든 인류에게 혜택을 줄 수 있다.