재미있게 잘 봤습니다. 아무리 전문가들이라 해도 몇 년 후에 어떤 기술적 특이점이 출현할지 예측한다는 건 심심풀이 내기에 가깝다고 생각하기 때문에 숫자에는 별로 신경을 쓰지 않습니다만 디테일과 방향만 보면 무지 재미있어요. SF 작가들 같은...
검색을 좀 해보니 이런 칼럼이 있네요.http://www.zdnet.co.kr/column/column_view.asp?artice_id=20150225193609 Armstrong & Sotala 2012 논문에서 1950년대부터 지금까지 인공지능 관련 문헌에 나오는 95건의 예측을 분석한 결과, 인공지능이 인간 지능에 도달하는 데 걸리는 시간이 얼마냐 하는 시점은 대략 문헌 작성 시점부터 15년에서 25년 후로 몰리는 분포 경향을 보인다고 하는군요. 또 그 분포 결과에는 전문가와 비전문가의 차이가 없다고... 전문가들도 심리적 편향을 벗어나지 못하는 것도 있고, 테크놀러지 단독의 발전으로 미래를 예측하는 것은 불가능할 테니까요.
재미있는 게 케빈 켈리가 이름붙인 마이스-개로우 법칙인데, 1993년 마이스라는 연구자가 동료들을 상대로 조사한 결과 어떤 기술적 특이점(여기서는 마인드 업로딩)이 발생하리라고 동료들이 예측한 시기는 대개 예측자의 나이가 70세가 되는 시점에 수렴했다고요. 케빈 켈리에 따르면 예측자는 자기가 죽기 바로 직전에 대사건이 올 거라고 예상하는 경향이 있다고 하네요. 구경은 하되 그 결과에 책임은 지지 않고 죽겠다 뭐 이런 소린가요(?);; 초인공지능이 도래할 시기를 전문가들이 2060년으로 예측했다면 (요사이 평균수명을 80세로 잡을 때) 그 전문가들의 평균 연령이 지금 35세가 아닐까 하는 생각이...​

생산성이 높아지고 노동이 필요없어지면 가장 큰 문제는 현 인구의 소비 자원 증가 같습니다 (평등한 재분배는 오히려 전체를 위해 나쁜 선택일지도 모릅니다). 이를 막기 위해서라도 지배계층은 빈부격차를 심화시킬 것이고 (소비력 제한) 결혼 적령 시기를 늦추는 등 자식을 낳고 기르기 힘든 환경을 조성함으로써 고령화 사회로 유도하며 궁극적으로는 인구수를 줄이는 방향으로 갈 것입니다. 더군다나 느려진 결혼 시기는 곧 길어진 평균 연애기간을 의미하며 이성에의 환상 및 집착을 상당부분 걷어낸 상태에서, 시간에 쫓기지 않고 현실적인 선택을 하는 경향이 증가하기 때문에 고령화는 더욱 가속화될 것입니다. 필수품들이 되어버린 무수한 사치품들도 포기하기 힘들 것입니다. 당장 단기간의 미래에도 어떻게 될 지 예측하기 힘든 상황에서 지배계층이 섣불리 강경한 인구 정리를 실행하진 못할 것이고 이렇게 서서히 줄어드는 환경을 안배할 것이며 앞서 말한 것들 + a의 이유로 사람들이 생산 외의 시간에 적은 자원으로 값싸게 소비할 수 있는 컨텐츠를 마련할 것입니다. 그 컨텐츠들은 기본적인 게임 및 자연스러운 체험이 가능한 가상현실 등으로 채워질 것이며 출산율 하락을 불러올 가상현실 기반 포르노의 도입도 쉽게 받아들여질 것입니다. 많은 인구수 즉 다수의 유전자 풀로써 환경에의 종의 적응성을 높일 필요가 훨씬 적어졌을 뿐만 아니라 그 수가 서로를 위협할 수 있는 수준이 되었기 때문에 (과거에도 그랬으나 개척을 통해 극복해왔던 것이 한계에 도달) 선택의 여지가 없을 것으로 보입니다.

튜링머신이건 슈퍼튜링머신이건 관련이 없습니다.
\"인간이 튜링머신이면 인공지능이 튜링머신\"이라는 것은 인간의 능력을 뛰어넘는 지적 존재의 출현 가능성에 대해 아무것도 함의하지 않습니다.
\"인공지능이 튜링머신이면 인간이 튜링머신\"이고 \"인간이 튜링머신이라 하더라도 침팬지도 튜링머신\"입니다.
같은 튜링머신 간에도 엄연히 실행능력 및 지능의 우열이 존재하는 것이 자명한 바, 인공지능이 사람을 뛰어넘어 군림할 수 있다는 것 또한 사람이 침팬지보다 우월하다는 명제와 정확히 동일한 이유로 성립합니다.
튜링 머신은 지능에 대해 아무것도 이야기하지 않습니다. 다만 계산 가능한 집합에 대해 이야기할 뿐
덧붙여 일반 방정식의 근의 공식은 존재하지 않음이 이미 증명되었고 그 증명 혹은 공리체계가 잘못된 것이 아니라면 슈퍼튜링머신을 써도 5차 이상 방정식의 근의 공식은 구할 수 없습니다.
FLI Advisory Board도 한 번 살펴보세요. 전부 쟁쟁한 사람들이고 엘론 머스크, 스티븐 호킹도 확인하실 수 있습니다. http://futureoflife.org/

기존에 쌓아나간 지식을 바탕으로 성장하기 때문에 더 빨리 발전한다는게 본문의 설명인데 ,
본문에서나온 지수적 성장방식에 대한 논증이 너무 나이브해서 저는 전혀 신뢰가 가질 않습니다.

예를들어 정반대의 논증도 가능합니다.
인류문명이 발전하면서, 지식이 쌓여가는 속도 또한 지수적인데
기존의 쌓여진 지식을 처리해서 결과를 내는게 걸리는 시간/자원또한 지수적으로 증가한다는 뜻이고,
결과를 내는 속도가 인류가 발전하는 속도라고 한다면 그 증가속도가 지수적으로 감소해야합니다.
하지만 현실은 전혀 그렇지 않습니다.
그 이유는 답을내기위핸 input data의 량도 지수적으로 증가해왔지만
인류가 가진 계산 능력또한 지수적으로 향상되어 왔기때문이겠죠. .

발전자체가 지수적으로 보이는 이유는,
최근 수십년사이 컴퓨터의 발전으로 인류문명이 가진 계산능력의 발전되는 승수가
처리해야할 데이터가 늘어나는 승수보다 커졌기때문에 나타난 현상이라고 보는게 더 정확하지 않을까요?
하지만 그 승수가 조금만 떨어져도 결국 발전속도는 정반대로 지수적으로 느려지게 됩니다.

자연계에 국소적으로 지수적인 변화를 보이는 일은 매우 흔합니다.
일차원적인 인구모델에서는 인구증가도 지수적이죠. 하지만
현실에서는 인구가 지수적으로 증가하는것은 일시적인 현상입니다.

논의를 위해서는 인간보다 뛰어난 지능에 대한 정의부터 좀더 제대로 할 필요가 있습니다.
지금도 컴퓨터는 백억자리수 곱셈을 할수 있지요. 저보다 훨씬 잘합니다.
하지만 인간의 능력을 모든면에서 압도하는 인공지능이라면,
계산하는 작업을 학습하는 컴퓨가 열심히 곱셈덧셈을 하다가 어느순간
로그나 삼각함수의 원리, 미적분의 원리를 스스로 찾아내서 계산능력의 비약적인 향상을 스스로 만들어낼수 있어야 할겁니다.
지금과 같은 방식의 인공지능이 질적인 향상이 아닌 양적인 향상(계산속도, 메모리용량,병렬컴퓨팅) 으로 그날이 오긴 올까요?

뭔가 오해하고 계신것 같은데, 제 질문은 근의 공식과는 무관합니다.
5차 대수방정식의 근이 사칙연산과 제곱근으로 표시될수 없다는게 근의 공식이 없다는 증명인데, 사칙연산과 제곱근이 아닌 다른 방식의 analytic 함수를 사용하는 근의 공식은 5차이상의 경우 임의의 차수에 대하여도, 꽤 많이 알려져 있습니다.

튜링머신을 계산한계성을 이야기는 본문에서는 마치 초인공지능이 인류가 생각하는 모든 문제에 대한 답을 줄것처럼 써놨지만, 그렇지 않을거다라는겁니다. 제아무리 초인공지능이라 하더라도 \"이런이런 방정식을 근을 찾아줘\" 라는 질문(근의 공식이 있냐는 질문이 아닙니다. ) 에 대한 답을 항상 할수있는 초인공지능은 출현할수 없다는뜻이죠. .

본문에서 정의한 강인공지능(모든 면에서 인간과 동등 또는 우월한 인공지능) 의 출현을 위해서는 완벽하게 본질적인 도약이 몇번은 더 있어야하는데, 저는 근시일내에는 매우 회의적입니다.

FLI board에 유명인사가 있다고 링크의 본문에 쓰여진 논증의 신뢰성이 올라가나요? 그저 재미있는 미래전망 이야기라고 생각할수도 있을텐데요.

본문에서 정의한대로 인간보다 우월한 인공지능이라면, 그 인공지능이 최소한 그럴듯한 미해결 수학난제( 클레이 밀레니엄 문제정도까진 바라지도 않습니다. https://en.wikipedia.org/wiki/List_of_unsolved_problems_in_mathematics 의 목록중에 하나라도 )중에 하나정도는 풀고 더 나아가 한걸음 더 진보할수 있는 기념비적인 난제를 제시할 수준이 되어야한다고 봅니다. 글쎄요..
언젠간 출현할수도 있겠지만 적어도 링크된 본문에서 말하는 순진한 논증처럼 수십년이내에 될거라 보진 않습니다.

마침 AI관련 기사를 읽은 김에..
http://www.the-vital-edge.com/artificial-intelligence-behavior/
온라인게임커뮤니티인 Riot Games 커뮤니티에서 트롤 게이머들을 제재할 필요성을 느꼈는데 이들은 타인들에게 민폐가 될 뿐만 아니라 게임회사들에 금전적 손실도 안겨줍니다. 그래서 Tribunal이라는 시스템을 도입했죠. 이 곳에 문제가 되는 게이머들을 신고하면 이 시스템을 운영하는 이들이 신고당한 이용자의 게임기록, 챗팅기록, 등을 열람하고 모든 신고를 망라하여 어떤 벌점을 내릴 것인가 판단을 해요. 운영자들은 커뮤니티에서 지원한 수많은 회원들로 구성되어 있고요. 크라우드소싱(지원자들의 피드백)을 통해 수집된 정보를 바탕으로 이용자에게 벌점 등 제재를 가하는데 이걸 온에서 운영하다가 오프로 돌려버렸어요. 왜냐면 결정이 내려지기까지 시간이 너무 오래 걸려서 효율성이 떨어진거죠. 심각한 트롤게이머들이라고 해봤자 전체 중 5%정도밖에 안 되고 크고 작은 트롤들이 꽤 광범위하게 문제를 일으켜서 당시 Tribunal의 느린 시스템으로는 감당이 안됐던 거예요.
그래서 아예 기존의 크라우드소싱 자료를 근거로 machine learning을 실현시켜 순간적으로 제재수위를 판단해 주는 AI를 이용했더니 심각한 트롤인 호모포비아, 인종차별주의, 성차별주의적 트롤게이머는 2% 줄고, 언어폭력은 40% 줄고, 91.6%의 부정적 태도의 게이머들이 남을 기분나쁘게 하는 행위를 반복하는 일이 없어졌다고 합니다. 어떤 문제가 되는 행위를 했을 때 AI심판관이 바로 경고메세지를 띄우거든요. 예컨데 이런 거죠.
[14일 근신
최근의 League of Legends 경기 중의 행위로 말미암아 14일의 근신처분이 내려졌습니다.
커뮤니티 회원들은 당신의 행위가 League of Legends커뮤니티 행동강령에 위배된다고 판단을 내렸습니다. 회원과의 대화를 곱씹어 보고 자신의 언어를 스스로 돌아보십시요. League는 격렬하고 경쟁이 심한 게임이지만 모든 회원들은 존중받아 마땅합니다. 링크에 가셔서 정정당당한 스포츠맨십에 관하여 숙지하시길 권합니다.
다음은 커뮤니티회원들에 의해 부정적이라고 판단된 챗기록입니다. 어쩌구 저쩌구.. ]
기계가 인간의 행동을 제어하기도 한다는..

기존에 쌓여진 지식을 처리해 결과를 내는데 걸리는 시간/자원은 실제로 엄청나게 증가했습니다. 개인이 그에 적응한 방식은, 더 협소한 전문 분야를 가지는 식이었죠. 18~19세기때 까지만 해도 수학자 과학자 철학자 한꺼번에 다 헤쳐먹는 양반들이 많았지만, 요즘은 그런 사람들은 멸종했다고 봐도 과언이 아닙니다. 또 당시엔 혼자 머리 싸매고 연구하는 식이 많았는데, 지금은 전문적인 팀을 짜서 체계적으로 연구 합니다. 더불어 인구 증가 + 고등교육 증가를 통합해 인력자원 투자가 훨씬 더 많이 이루어지고 있지요? 과거에 전세계적으로 고작 수천명 이하의 사람들이 하던 일을, 지금은 수백만명이 하고 있으니까요. 물론 개인이 가진 처리 능력도 상승해 왔습니다. 기본적으로 더 똑똑해졌을 뿐 아니라, 컴퓨터나 인터넷 같은 도구까지 사용하면서 더욱 퍼포먼스가 강화되었죠. 인류 단위로 보면 앞서 말한 인구 증가나 고등교육 증가도 처리 능력을 상승시킨 변수입니다.
그러나 이 모든 사실이 선대 지식의 중첩이 더 빠른 증가속도를 만들어낸다는 것을 부정하는 논증이 되지 않습니다. 어찌 보면 부합하는 얘기라고도 할 수 있지요. 이 강인공지능과 당대의 하드웨어의 처리속도로도 감당하기 힘든 양의 데이터가 생성되고 재투입되는 시점이란 게 존재할 수도 있고, 그 시점으로 부터 지수적 성장이 멈출 수도 있을 겁니다. 자체 처리성능 개선에 한계점이 있다거나, 어떤 이유로건 버퍼가 걸리면 그렇게 되겠죠. 그러나 명백한건, 그 시점이 어디건 간에 인공지능이 없는 인류의 속도 정도는 압도할 것이란 사실이지요. 컴퓨터의 처리속도와 저장 용량이 인간을 압도하는 것에 대해 증명이 필요한가요? 강인공지능이 갖춰지는 시점에서, 인류가 낼 수 없는 퍼포먼스는 반드시 나오게 되어있습니다. 한계가 존재하냐 마냐는 다른 차원의 문제고요.
그래서 링크글의 본문이 상당히 나이브하다는 것은 동의하는데, 반박하신 내용으로는 전혀 반박이 되질 않습니다. 하시는 말씀은 \"지속적인 지수적 발전은 장담하기 어렵다\" 까지에 그칠 일이지, \"인간을 아득히 뛰어넘는 결과를 낼 것\"을 부정할 수 없습니다.
더불어 제가 전제한 건 강인공지능(인간과 동일한 수준)이고, 약인공지능은 말씀하신 것처럼 알아서 진화할리는 없을 겁니다.