인공지능이 할 수 있는 것, 할 수 없는 것 저자 강국진 출판 필로소픽 발매 2023.12.15. 인공지능이 할 수 있는 것, 할 수 없는 것 저자 강국진 출판 필로소픽 발매 2023.12.15.
이 책은 인공지능에 대한 문화적 비교를 시도한 책이다. 인공지능과 인공지능이 아닌 것의 비교가 필요하다. 비교를 통해 인공지능을 이해하는 것이다. 인공지능에 대해 배워야 할 것은 첫째, ‘인공지능을 무엇과 비교해야 하는가’이다. 둘째, 인공지능을 특정 과정의 결과물로 이해하는 것이다.(인공지능 패러다임) 1장 인공지능 패러다임 이 책은 인공지능에 대한 문화적 비교를 시도한 책이다. 인공지능과 인공지능이 아닌 것의 비교가 필요하다. 비교를 통해 인공지능을 이해하는 것이다. 인공지능에 대해 배워야 할 것은 첫째, ‘인공지능을 무엇과 비교해야 하는가’이다. 둘째, 인공지능을 특정 과정의 결과물로 이해하는 것이다.(인공지능 패러다임) 1장 인공지능 패러다임
인기글
인공지능은 음악과 뭐가 달라? 인공지능은 음악과 뭐가 달라?
인공지능은 무엇을 할 수 있고 무엇을 할 수 없는가? 음악은 무엇을 할 수 있고 무엇을 할 수 없나? 이 질문을 비교해 보자. 질문을 음악에 던졌을 때 우리는 그 답이 인간에게 달렸다고 생각한다. 작곡하는 것도, 연주하는 것도, 감상하는 것도 인간이기 때문이다. 음악은 우리를 변화시키고 우리의 일부가 된다. 음악은 악기의 기계적 구조나 악보의 형식만으로 설명할 수 없는 사람의 감정과 생각과 관련된 부분에 대해서도 이야기해야 한다. 우리의 태도는 인문학적이거나 예술적이다. 질문을 인공지능에 던졌을 때 우리의 태도는 과학적이고 기계적이다. 이는 인공지능이 인간의 감정이나 내적 세계와 관련이 없다고 보기 때문이다. 우리는 인공지능이 우리와 독립적으로 존재하는 매우 강력한 무언가라고 믿고 있다. 때문에 진정한 인공지능 시대가 오면 인간은 그 존재 의미를 잃을 것이라는 결론에 빠지기 쉽다. 그런데 인공지능은 그것을 사용하는 사람의 마음과 주위 환경에 크게 의존한다. 인공지능은 기계적이고 논리적인 구조만으로는 설명할 수 없고, 서로 다른 두 인공지능은 동시에 정당화될 수 있다. 그 이유 중 하나는 인공지능이 그것을 만드는 데 쓰는 데이터에 의존하기 때문이고, 다른 하나는 ‘지능적’이라는 것이 무엇인지를 결정하는 것이 인간이기 때문이다. 많은 복잡한 기계는 환원주의 원리에 의해 만들어진다. 그런데 인공지능은 데이터와 컴퓨터의 최적화에 의해 만들어진다. 인공지능은 작은 부분이 합쳐져 만들어지지 않고, 문제를 논리적으로 분석해 답을 찾지도 않는다. 인공지능은 무수한 시행착오를 통해 답을 찾는다. 인공지능은 매우 높은 유연성을 가지고 있어 무수한 문제를 푸는 데 사용할 수 있다. 인공지능을 문제 해결하는 새로운 접근법이다. 이제 우리는 인문학이나 과학과는 다른 제3의 지식을 갖게 됐다. 복잡한 기계가 대중적으로 사용되는 사회는 그 기계의 기반이 되는 문제 해결 패러다임이 사회 전체를 채울 때 가능해진다. 마찬가지로 인공지능이 발달한 사회는 인공지능 패러다임이 사회 전체를 가득 채울 때 가능해진다. 왜 인공지능은 패러다임인가? 인공지능은 무엇을 할 수 있고 무엇을 할 수 없는가? 음악은 무엇을 할 수 있고 무엇을 할 수 없나? 이 질문을 비교해 보자. 질문을 음악에 던졌을 때 우리는 그 답이 인간에게 달렸다고 생각한다. 작곡하는 것도, 연주하는 것도, 감상하는 것도 인간이기 때문이다. 음악은 우리를 변화시키고 우리의 일부가 된다. 음악은 악기의 기계적 구조나 악보의 형식만으로 설명할 수 없는 사람의 감정과 생각과 관련된 부분에 대해서도 이야기해야 한다. 우리의 태도는 인문학적이거나 예술적이다. 질문을 인공지능에 던졌을 때 우리의 태도는 과학적이고 기계적이다. 이는 인공지능이 인간의 감정이나 내적 세계와 관련이 없다고 보기 때문이다. 우리는 인공지능이 우리와 독립적으로 존재하는 매우 강력한 무언가라고 믿고 있다. 때문에 진정한 인공지능 시대가 오면 인간은 그 존재 의미를 잃을 것이라는 결론에 빠지기 쉽다. 그런데 인공지능은 그것을 사용하는 사람의 마음과 주위 환경에 크게 의존한다. 인공지능은 기계적이고 논리적인 구조만으로는 설명할 수 없고, 서로 다른 두 인공지능은 동시에 정당화될 수 있다. 그 이유 중 하나는 인공지능이 그것을 만드는 데 쓰는 데이터에 의존하기 때문이고, 다른 하나는 ‘지능적’이라는 것이 무엇인지를 결정하는 것이 인간이기 때문이다. 많은 복잡한 기계는 환원주의 원리에 의해 만들어진다. 그런데 인공지능은 데이터와 컴퓨터의 최적화에 의해 만들어진다. 인공지능은 작은 부분이 합쳐져 만들어지지 않고, 문제를 논리적으로 분석해 답을 찾지도 않는다. 인공지능은 무수한 시행착오를 통해 답을 찾는다. 인공지능은 매우 높은 유연성을 가지고 있어 무수한 문제를 푸는 데 사용할 수 있다. 인공지능을 문제 해결하는 새로운 접근법이다. 이제 우리는 인문학이나 과학과는 다른 제3의 지식을 갖게 됐다. 복잡한 기계가 대중적으로 사용되는 사회는 그 기계의 기반이 되는 문제 해결 패러다임이 사회 전체를 채울 때 가능해진다. 마찬가지로 인공지능이 발달한 사회는 인공지능 패러다임이 사회 전체를 가득 채울 때 가능해진다. 왜 인공지능은 패러다임인가?
과학이론과 과학적 문제해결 패러다임은 다르다. 과학적 문제해결 패러다임은 문제를 과학적으로 해결하기 위한 접근법이고, 과학이론은 그런 접근법의 결과물이다. ‘인공지능 패러다임’은 인공지능을 사용해 어떤 문제를 해결하고자 할 때 어떻게 접근해야 하는지를 다룬다. 인공지능은 패러다임을 이해하기가 아직 어렵다. 첫째, 아직 인공지능이 충분히 발전하고 인간과 사회가 변해버린 시대는 아니다. 둘째, 우리는 과학 패러다임이 지배하는 세상에 살고 있지만 실제 대부분의 사람들에게 그것은 무의식적으로 작동한다. 즉, 우리는 단지 합리적이라고 생각할 뿐이다. 패러다임의 이해를 위해서는 당연한 것을 재검토하는 과정이 필요하다. 그렇다면 왜 인공지능 패러다임을 이해해야 하는가? 한 문화를 이해하려면 다른 문화를 이해해야 한다. 마찬가지로 인공지능 패러다임을 이해하기 위해서는 그것과 다른 패러다임에 대해서도 더 많이 알아야 한다. 인공지능 응용 사례나 학습 알고리즘에 대해서만 듣는 것이 아니라 패러다임 간 차이를 이해해야 비로소 인공지능 패러다임이 어떤 의미를 갖는지, 어떤 미래를 만들 수 있는지 정말 알 수 있다. 21세기 인간은 이전과는 전혀 다른 변화의 압력에 직면해 있다. 예전 사람들은 어릴 적 습득한 삶의 방식으로 평생 살고 죽을 수 있었다. 인공지능과 같은 미래 기술이 발달하고 있는 21세기는 어떨까? 최근 기술의 발달은 인간의 적응 속도를 능가한다. 자율주행차만 봐도 그렇다. 주행주행은 기술적으로 빠르게 발전하고 있지만 법규와 관행을 바꾸기는 어렵다. 왜냐하면 무한히 완벽한 자율주행은 불가능하기 때문에 자율주행차가 사고를 내면 사람들을 이를 비난할 것이다. 그보다 훨씬 많은 사람들이 사람이 운전하는 차에 의해 죽어간다고 해도 말이다. 오픈AI ‘GPT-4’를 능가하는 ‘거대 언어모델’ 개발을 6개월간 중단하고 안전규약을 마련해야 한다는 주장도 있었다. 인공지능은 그 효과가 긍정적이고 위험을 관리할 수 있을 때만 개발해야 한다는 주장이다. 이는 기술적 발전이 사회적 합의의 대상이 되고 있어 ‘인공지능 패러다임이란 무엇인가’를 파악하는 것이 시급하다는 점을 보여준다. 과학이론과 과학적 문제해결 패러다임은 다르다. 과학적 문제해결 패러다임은 문제를 과학적으로 해결하기 위한 접근법이고, 과학이론은 그런 접근법의 결과물이다. ‘인공지능 패러다임’은 인공지능을 사용해 어떤 문제를 해결하고자 할 때 어떻게 접근해야 하는지를 다룬다. 인공지능은 패러다임을 이해하기가 아직 어렵다. 첫째, 아직 인공지능이 충분히 발전하고 인간과 사회가 변해버린 시대는 아니다. 둘째, 우리는 과학 패러다임이 지배하는 세상에 살고 있지만 실제 대부분의 사람들에게 그것은 무의식적으로 작동한다. 즉, 우리는 단지 합리적이라고 생각할 뿐이다. 패러다임의 이해를 위해서는 당연한 것을 재검토하는 과정이 필요하다. 그렇다면 왜 인공지능 패러다임을 이해해야 하는가? 한 문화를 이해하려면 다른 문화를 이해해야 한다. 마찬가지로 인공지능 패러다임을 이해하기 위해서는 그것과 다른 패러다임에 대해서도 더 많이 알아야 한다. 인공지능 응용 사례나 학습 알고리즘에 대해서만 듣는 것이 아니라 패러다임 간 차이를 이해해야 비로소 인공지능 패러다임이 어떤 의미를 갖는지, 어떤 미래를 만들 수 있는지 정말 알 수 있다. 21세기 인간은 이전과는 전혀 다른 변화의 압력에 직면해 있다. 예전 사람들은 어릴 적 습득한 삶의 방식으로 평생 살고 죽을 수 있었다. 인공지능과 같은 미래 기술이 발달하고 있는 21세기는 어떨까? 최근 기술의 발달은 인간의 적응 속도를 능가한다. 자율주행차만 봐도 그렇다. 주행주행은 기술적으로 빠르게 발전하고 있지만 법규와 관행을 바꾸기는 어렵다. 왜냐하면 무한히 완벽한 자율주행은 불가능하기 때문에 자율주행차가 사고를 내면 사람들을 이를 비난할 것이다. 그보다 훨씬 많은 사람들이 사람이 운전하는 차에 의해 죽어간다고 해도 말이다. 오픈AI ‘GPT-4’를 능가하는 ‘거대 언어모델’ 개발을 6개월간 중단하고 안전규약을 마련해야 한다는 주장도 있었다. 인공지능은 그 효과가 긍정적이고 위험을 관리할 수 있을 때만 개발해야 한다는 주장이다. 이는 기술적 발전이 사회적 합의의 대상이 되고 있어 ‘인공지능 패러다임이란 무엇인가’를 파악하는 것이 시급하다는 점을 보여준다.
2장 기호주의 인공지능과 문자지식 패러다임 2장 기호주의 인공지능과 문자지식 패러다임
오래된 인공지능 오래된 인공지능
1956년 다트머스 학술회의가 열렸다. 다트머스 학술회의 제안서에 인공지능이라는 단어가 처음 사용됐다. 이 학술회의 이후 인공지능은 하나의 연구 영역으로 발전했다. 인공지능을 구현하기 위한 접근법에는 ‘기호주의’ 혹은 ‘규칙기반’ 접근법과 ‘연결주의’ 혹은 ‘기계학습’ 접근법이 있었다. 머신러닝은 매우 빠른 컴퓨터와 방대한 데이터를 요구하기 때문에 기호주의 접근법이 초기 인공지능 분야의 주류를 이뤘다. 기호주의 접근법에서 인공지능은 인간의 판단과 추론을 규칙의 형태로 컴퓨터에 입력함으로써 만들어진다. 규칙은 각 분야의 전문가에 의해 만들어졌다. 이는 해야 할 일을 기호로 적어 유효한 규칙에 따라 순서대로 실시하는 것이다. 기호주의 접근법의 인공지능이란 ‘기록된 정보’ 좀 더 좁게 말하면 ‘문자로 기록된 지식’이다. 안정적인 정보를 기록하는 것은 엄청난 일을 해낼 수 있다. 인간이 안정적인 정보 기록을 갖게 되자 인간이 모으고 조합할 수 있는 지식의 양은 엄청나게 증가했다. 인간의 손안에서 정보는 진화를 거듭했다. 그리고 인간은 복잡한 생각이 가능해졌다. 우리는 지식을 창출하기 위해 문자를 사용한다. 그리고 그 지식으로 문제를 해결한다. 이런 접근법을 문자지식 패러다임이라고 부를 것이다. 경험을 문자로 기록하고, 수정하고, 조립함으로써 이전에는 불가능했던 것보다 복잡한 지식을 얻을 수 있다. 문자에 의해 만들어진 능력을 ‘문자 지식 지능’이라고 부를 수 있다. 기호주의 접근법의 인공지능은 컴퓨터라는 새로운 도구의 도움을 받아 문자지식지능을 확장한 것이다. 사람들은 컴퓨터가 등장했기 때문에 곧 인간처럼 지능적인 기계가 등장할 것이라고 믿었다. 그러나 그런 일은 일어나지 않았고, 기호주의 인공지능 패러다임은 컴퓨터가 더 발달한 후에도 큰 결과를 가져오지 않았다. 기호주의 인공 지능의 한계 1956년 다트머스 학술회의가 열렸다. 다트머스 학술회의 제안서에 인공지능이라는 단어가 처음 사용됐다. 이 학술회의 이후 인공지능은 하나의 연구 영역으로 발전했다. 인공지능을 구현하기 위한 접근법에는 ‘기호주의’ 혹은 ‘규칙기반’ 접근법과 ‘연결주의’ 혹은 ‘기계학습’ 접근법이 있었다. 머신러닝은 매우 빠른 컴퓨터와 방대한 데이터를 요구하기 때문에 기호주의 접근법이 초기 인공지능 분야의 주류를 이뤘다. 기호주의 접근법에서 인공지능은 인간의 판단과 추론을 규칙의 형태로 컴퓨터에 입력함으로써 만들어진다. 규칙은 각 분야의 전문가에 의해 만들어졌다. 이는 해야 할 일을 기호로 적어 유효한 규칙에 따라 순서대로 실시하는 것이다. 기호주의 접근법의 인공지능이란 ‘기록된 정보’ 좀 더 좁게 말하면 ‘문자로 기록된 지식’이다. 안정적인 정보를 기록하는 것은 엄청난 일을 해낼 수 있다. 인간이 안정적인 정보 기록을 갖게 되자 인간이 모으고 조합할 수 있는 지식의 양은 엄청나게 증가했다. 인간의 손안에서 정보는 진화를 거듭했다. 그리고 인간은 복잡한 생각이 가능해졌다. 우리는 지식을 창출하기 위해 문자를 사용한다. 그리고 그 지식으로 문제를 해결한다. 이런 접근법을 문자지식 패러다임이라고 부를 것이다. 경험을 문자로 기록하고, 수정하고, 조립함으로써 이전에는 불가능했던 것보다 복잡한 지식을 얻을 수 있다. 문자에 의해 만들어진 능력을 ‘문자 지식 지능’이라고 부를 수 있다. 기호주의 접근법의 인공지능은 컴퓨터라는 새로운 도구의 도움을 받아 문자지식지능을 확장한 것이다. 사람들은 컴퓨터가 등장했기 때문에 곧 인간처럼 지능적인 기계가 등장할 것이라고 믿었다. 그러나 그런 일은 일어나지 않았고, 기호주의 인공지능 패러다임은 컴퓨터가 더 발달한 후에도 큰 결과를 가져오지 않았다. 기호주의 인공 지능의 한계
MIT와 버클리대 교수 휴버트 드레이퍼스는 1972년 ‘컴퓨터가 할 수 없는 일’을 출간했다. 그는 여기서 기호주의 인공지능의 한계를 이야기한다. 그는 인공지능을 연구하는 학자들이 ‘생물학적 가정’, ‘심리학적 가정’, ‘인식론적 가정’, ‘존재론적 가정’을 당연하게 여긴다고 주장했다. ‘생물학적 가정’은 뉴런이 디지털 스위치처럼 ‘0’과 ‘1’이라는 두 가지 상태만 가진다는 생각이었다. 이런 생각은 논의할 가치도 없어 보인다. ‘심리학적 가정’이란 인간이 어떤 주어진 틀에 따라 주어진 정보를 처리하는 것이다. 그리고 인공지능을 가진 기계가 인간의 심리적 판단 순서를 그대로 반복한다는 것이다. 그러나 인간의 사고는 문자 지식 기능과 마찬가지로 이루어지지 않는다. 인식론적 가정 심리학적 가정과 연결된다. 물리학과 언어학에서 형식적 틀에 성공했기 때문에 인간의 행동에 대해서도 그런 틀이 존재할 수 있다고 간주해서는 안 된다. ‘존재론적 가정’이란 전체는 부분의 합으로 이해 가능하다는 것이다. 그러나 언어에서 한 단어나 문장이 갖는 의미는 그것을 둘러싼 문맥에 따라 결정된다. 그것을 사전에 확정되어 있거나 독립적이라고 생각되는 작은 사실로 환원시킨다면, 어떻게 인간의 행동을 재현할 수 있을까? 어떤 원리나 규칙이나 형식적 시스템에 축약된 것을 컴퓨터에 입력하면 그 컴퓨터도 사람처럼 지능을 가질 수 있다고 생각한다. 그러나 인간지능은 그렇지 않다. 인간의 지능은 몸에서도 나온다. 심지어 몸 밖의 환경에서도 나온다. 인간의 지성은 형식적인 틀 안에서 완전히 묘사되어 있지 않다. 인간은 이미 사이보그다 MIT와 버클리대 교수 휴버트 드레이퍼스는 1972년 ‘컴퓨터가 할 수 없는 일’을 출간했다. 그는 여기서 기호주의 인공지능의 한계를 이야기한다. 그는 인공지능을 연구하는 학자들이 ‘생물학적 가정’, ‘심리학적 가정’, ‘인식론적 가정’, ‘존재론적 가정’을 당연하게 여긴다고 주장했다. ‘생물학적 가정’은 뉴런이 디지털 스위치처럼 ‘0’과 ‘1’이라는 두 가지 상태만 가진다는 생각이었다. 이런 생각은 논의할 가치도 없어 보인다. ‘심리학적 가정’이란 인간이 어떤 주어진 틀에 따라 주어진 정보를 처리하는 것이다. 그리고 인공지능을 가진 기계가 인간의 심리적 판단 순서를 그대로 반복한다는 것이다. 그러나 인간의 사고는 문자 지식 기능과 마찬가지로 이루어지지 않는다. 인식론적 가정 심리학적 가정과 연결된다. 물리학과 언어학에서 형식적 틀에 성공했기 때문에 인간의 행동에 대해서도 그런 틀이 존재할 수 있다고 간주해서는 안 된다. ‘존재론적 가정’이란 전체는 부분의 합으로 이해 가능하다는 것이다. 그러나 언어에서 한 단어나 문장이 갖는 의미는 그것을 둘러싼 문맥에 따라 결정된다. 그것을 사전에 확정되어 있거나 독립적이라고 생각되는 작은 사실로 환원시킨다면, 어떻게 인간의 행동을 재현할 수 있을까? 어떤 원리나 규칙이나 형식적 시스템에 축약된 것을 컴퓨터에 입력하면 그 컴퓨터도 사람처럼 지능을 가질 수 있다고 생각한다. 그러나 인간지능은 그렇지 않다. 인간의 지능은 몸에서도 나온다. 심지어 몸 밖의 환경에서도 나온다. 인간의 지성은 형식적인 틀 안에서 완전히 묘사되어 있지 않다. 인간은 이미 사이보그다
문자, 지식, 지능이 인간 지능의 전부는 아니다. 하지만 이 문자 지식 지능이 그동안 대단한 일을 해냈다. 문자, 지식, 지능이 외적 변화만 가져온 것은 아니다. 단지 구술 문화에 속하는 수렵 채집자들이 글을 쓰게 된 정도의 변화는 아니다. 문자지식 기능은 인간을 재정의하고 인간의 윤리와 욕망과 가치관을 바꿔놓았다. 고릴라나 침팬지처럼 그저 숲을 어슬렁거리며 살았지만 문자 기록을 시작한 지 불과 수천 년 만에 태양계 밖으로 탐사선을 보내 핵폭탄으로 지구 전체를 순식간에 파괴할 수 있고 눈으로 볼 수 없는 유전자를 조작하는 능력을 갖게 됐다. 문자라는 기호로 만들어진 형식적 시스템은 뉴턴 고전역학이나 유클리드기하학처럼 오랫동안 진리 그 자체로 여겨지기도 했다. 그러나 20세기 들어 형식적 시스템은 현실 자체가 아니라 참고할 모델에 불과하다는 것을 알게 됐다. 문자지식 패러다임이 문자지식 지능을 만들어 내면서 오늘날의 문자지식 패러다임은 문명 사회에 널리 퍼져 문명인의 내부에 매우 깊이 내재화되었다. 사람들은 그것을 인공지능이라고 생각하지 않고 인간의 타고난 지능처럼 착각하기도 한다. 그리고 아무도 인간이 문자에 의해 지배되는 사회를 공포의 눈으로 보지 않는다. 오히려 읽고 쓸 줄 모르는 인간을 어딘가 이상하게 생각한다. 인간은 DNA에 의해 결정된 본성을 갖고 태어나는 것 이상으로 교육과정을 통해 만들어진다. 전 세계에서 이뤄지는 교육 시스템의 핵심은 일과 쓰는 법을 배우고 여러 가지 규칙을 머릿속에 주입하는 것이다. 우리는 이미 사이보그다. 인간지능은 컴퓨터가 등장하기 전부터 이미 인공적인 지능이었다. 더 정확히 말하면 타고난 지능과 인공적으로 만들어진 지능의 하이브리드 시스템이었다. 저자는 이들을 사이보그 1이라고 부른다. 제3장 기계학습 인공지능 문자, 지식, 지능이 인간 지능의 전부는 아니다. 하지만 이 문자 지식 지능이 그동안 대단한 일을 해냈다. 문자, 지식, 지능이 외적 변화만 가져온 것은 아니다. 단지 구술 문화에 속하는 수렵 채집자들이 글을 쓰게 된 정도의 변화는 아니다. 문자지식 기능은 인간을 재정의하고 인간의 윤리와 욕망과 가치관을 바꿔놓았다. 고릴라나 침팬지처럼 그저 숲을 어슬렁거리며 살았지만 문자 기록을 시작한 지 불과 수천 년 만에 태양계 밖으로 탐사선을 보내 핵폭탄으로 지구 전체를 순식간에 파괴할 수 있고 눈으로 볼 수 없는 유전자를 조작하는 능력을 갖게 됐다. 문자라는 기호로 만들어진 형식적 시스템은 뉴턴 고전역학이나 유클리드기하학처럼 오랫동안 진리 그 자체로 여겨지기도 했다. 그러나 20세기 들어 형식적 시스템은 현실 자체가 아니라 참고할 모델에 불과하다는 것을 알게 됐다. 문자지식 패러다임이 문자지식 지능을 만들어 내면서 오늘날의 문자지식 패러다임은 문명 사회에 널리 퍼져 문명인의 내부에 매우 깊이 내재화되었다. 사람들은 그것을 인공지능이라고 생각하지 않고 인간의 타고난 지능처럼 착각하기도 한다. 그리고 아무도 인간이 문자에 의해 지배되는 사회를 공포의 눈으로 보지 않는다. 오히려 읽고 쓸 줄 모르는 인간을 어딘가 이상하게 생각한다. 인간은 DNA에 의해 결정된 본성을 갖고 태어나는 것 이상으로 교육과정을 통해 만들어진다. 전 세계에서 이뤄지는 교육 시스템의 핵심은 일과 쓰는 법을 배우고 여러 가지 규칙을 머릿속에 주입하는 것이다. 우리는 이미 사이보그다. 인간지능은 컴퓨터가 등장하기 전부터 이미 인공적인 지능이었다. 더 정확히 말하면 타고난 지능과 인공적으로 만들어진 지능의 하이브리드 시스템이었다. 저자는 이들을 사이보그 1이라고 부른다. 제3장 기계학습 인공 지능
머신러닝 머신러닝
인공지능을 구현하기 위한 접근법에는 ‘연결주의’ 혹은 ‘기계학습’ 접근법이 있었다. 기계학습은 인간이 규칙을 제공하지 않고 기계가 스스로 주어진 데이터 속에 존재하는 규칙을 찾아내 새로운 상황에 대처하도록 한다. 예를 들어 체스 기록을 많이 학습한 기계는 스스로 체스 두는 법을 익힐 수 있다. 인공지능을 구현하기 위한 접근법에는 ‘연결주의’ 혹은 ‘기계학습’ 접근법이 있었다. 기계학습은 인간이 규칙을 제공하지 않고 기계가 스스로 주어진 데이터 속에 존재하는 규칙을 찾아내 새로운 상황에 대처하도록 한다. 예를 들어 체스 기록을 많이 학습한 기계는 스스로 체스 두는 법을 익힐 수 있다.
출처: “인공지능이 할 수 있는 것, 할 수 없는 것” 38쪽 출처: “인공지능이 할 수 있는 것, 할 수 없는 것” 38쪽
컴퓨터로 할 수 있는 일이 대수롭지 않게 여겨지던 초기에는 머신러닝의 발전도 더뎠다. 하지만 데이터가 풍부해지고 컴퓨터 연산 속도가 빨라지면서 21세기에는 인공지능 기술의 주류가 됐다. 머신러닝으로 만들어진 인공지능 바둑 프로그램 알파고가 보여주듯 이렇게 구현된 인공지능이 잘 작동해도 인간은 어떻게 그럴 수 있는지를 잘 알 수 없다. 오늘날 일상에서 이미 사용되고 있는 음성인식과 문자인식, 내비게이션과 자동차 자율주행 프로그램 등은 머신러닝을 통해 만들어진다. IBM 왓슨, 테슬라 오토파일럿, 구글 딥마인드 알파폴드, 오픈 AI 채팅 GPT 등이 모두 머신러닝으로 만들어졌다. AI의 전제 조건과 한계 컴퓨터로 할 수 있는 일이 대수롭지 않게 여겨지던 초기에는 머신러닝의 발전도 더뎠다. 하지만 데이터가 풍부해지고 컴퓨터 연산 속도가 빨라지면서 21세기에는 인공지능 기술의 주류가 됐다. 머신러닝으로 만들어진 인공지능 바둑 프로그램 알파고가 보여주듯 이렇게 구현된 인공지능이 잘 작동해도 인간은 어떻게 그럴 수 있는지를 잘 알 수 없다. 오늘날 일상에서 이미 사용되고 있는 음성인식과 문자인식, 내비게이션과 자동차 자율주행 프로그램 등은 머신러닝을 통해 만들어진다. IBM 왓슨, 테슬라 오토파일럿, 구글 딥마인드 알파폴드, 오픈 AI 채팅 GPT 등이 모두 머신러닝으로 만들어졌다. AI의 전제 조건과 한계
이제는 ‘인공지능 기계학습’을 줄여 ‘AI’라고 쓰려고 한다. AI는 데이터 속에 있는 규칙을 학습하는 것이다. 그런데 데이터는 항상 규칙을 담고 있을까? 과거의 데이터로부터 미래를 예측하는 것이 항상 옳다고는 할 수 없다. AI의 목적은 답을 내는 것이기 때문에, 항상 답을 낼 것이다. 과거 데이터에 기반한 답은 항상 옳은 것은 아닐 텐데 우리는 복잡한 AI 시스템이 주는 답이라는 이유로 그 답을 지나치게 믿기 쉽다. 우리가 사는 세상은 통계적 특성을 지닌다.(블랙 스완의 이야기) 통계적 특징에는 평범한 나라가 있고 극단적인 나라가 있다. 이제는 ‘인공지능 기계학습’을 줄여 ‘AI’라고 쓰려고 한다. AI는 데이터 속에 있는 규칙을 학습하는 것이다. 그런데 데이터는 항상 규칙을 담고 있을까? 과거의 데이터로부터 미래를 예측하는 것이 항상 옳다고는 할 수 없다. AI의 목적은 답을 내는 것이기 때문에, 항상 답을 낼 것이다. 과거 데이터에 기반한 답은 항상 옳은 것은 아닐 텐데 우리는 복잡한 AI 시스템이 주는 답이라는 이유로 그 답을 지나치게 믿기 쉽다. 우리가 사는 세상은 통계적 특성을 지닌다.(블랙 스완의 이야기) 통계적 특징에는 평범한 나라가 있고 극단적인 나라가 있다.
출처: “인공지능이 할 수 있는 것, 할 수 없는 것” 76쪽 출처: “인공지능이 할 수 있는 것, 할 수 없는 것” 76쪽
인간이든 인공지능이든 과거 데이터를 기반으로 예측한 내용과는 전혀 다른 상황에 직면할 수 있다. 그럴 때 우리는 누가 책임져야 할 자리에 있기를 원할까? 우리는 그 선택을 인간의 뇌가 하기를 바랄 것이다. 기계 학습은 데이터에 근거해 행해진다. 「무엇이 데이터가 될 수 있는 것인가?」 「데이터는 단지 존재하는 것도 중립적이지도 않다. 그것은 어떤 이론, 어떤 가정, 심지어 어떤 형이상학이 있어야 존재할 수 있다. AI의 능력이 아무리 굉장해도 질문이 데이터를 결정하고 데이터가 답을 결정한다. 때로는 데이터를 구하기가 힘들거나 불가능하기도 한다. 우리는 인간의 지성의 논리법칙에 이끌리는 대로 의식적인 행동만 하는 것이 아니다. 우리의 지능은 종종 직관에 의존한다. 인간의 직관에는 오류가 있다. 그러나 직관은 대체하기 어려운 개인적 체험, 나아가 기계가 배우기 어려운 유전적 과정의 결과이기도 하다. 인간의 직관은 AI로 대체되기 어렵다. AI에게 누구와 결혼할 것인지 물어볼 수는 없다. 그것은 인간인 당신의 직관에 달려 있다. 인공 지능은 뉴턴을 대체할 수 없다 인간이든 인공지능이든 과거 데이터를 기반으로 예측한 내용과는 전혀 다른 상황에 직면할 수 있다. 그럴 때 우리는 누가 책임져야 할 자리에 있기를 원할까? 우리는 그 선택을 인간의 뇌가 하기를 바랄 것이다. 기계 학습은 데이터에 근거해 행해진다. 「무엇이 데이터가 될 수 있는 것인가?」 「데이터는 단지 존재하는 것도 중립적이지도 않다. 그것은 어떤 이론, 어떤 가정, 심지어 어떤 형이상학이 있어야 존재할 수 있다. AI의 능력이 아무리 굉장해도 질문이 데이터를 결정하고 데이터가 답을 결정한다. 때로는 데이터를 구하기가 힘들거나 불가능하기도 한다. 우리는 인간의 지성의 논리법칙에 이끌리는 대로 의식적인 행동만 하는 것이 아니다. 우리의 지능은 종종 직관에 의존한다. 인간의 직관에는 오류가 있다. 그러나 직관은 대체하기 어려운 개인적 체험, 나아가 기계가 배우기 어려운 유전적 과정의 결과이기도 하다. 인간의 직관은 AI로 대체되기 어렵다. AI에게 누구와 결혼할 것인지 물어볼 수는 없다. 그것은 인간인 당신의 직관에 달려 있다. 인공 지능은 뉴턴을 대체할 수 없다
현실적인 문제를 풀 때 AI의 한계는 복합적인 이유로 생긴다. 17세기 영국의 과학자 아이작 뉴턴은 세상의 무수한 데이터를 매우 간결하고 훌륭하게 기술할 수 있는 고전역학이라는 형식적 시스템을 만들어냈다. 뉴턴의 중력 법칙과 운동 법칙을 알면 이 세상의 너무 많은 것들이 수학적으로 설명된다. AI는 인간을 능가하는 기억력과 감각 센서를 갖고 있지만 AI가 17세기로 간다고 해도 뉴턴의 중력 법칙과 운동 법칙을 만들어내지는 못할 것이다. 우리의 일상적인 데이터는 중력의 법칙을 지지하지 않는다. 무거운 물건은 가벼운 것보다 빨리 떨어진다. 운동 법칙 F=ma도 마찬가지다. AI는 한 줄의 수식으로 표현하려고 노력할 필요를 느끼지 않을 것이다. 채팅GPT와 같은 거대 언어 모델이 많은 데이터를 통해 인간의 언어 행동을 상당히 잘 재현한 것은 대단한 일이다. 그러나 이것이 인간에 대한 모사이고, 또 그 안에 세계에 대한 모델이 존재한다고 생각하는 것은 타당하지 않다. 인간과 세상은 언어보다 더 복잡하다. 『인공지능이 할 수 있는 것, 할 수 없는 것』 1장~3장 부분을 읽었다. 지금까지 인공지능에 관한 책을 몇 권 읽었다. 인간이 사라진다 생성형 AI 사피엔스 인공지능과 뇌는 어떻게 생각하는가 등. 하지만 인공지능에 대한 이해는 어려웠다. 그런데 이 책의 2장과 3장을 읽어보면 인공지능의 두 가지 학습 방법이 머릿속에 잘 정리돼 있는 것 같다. 그리고 언어를 기반으로 문명화된 인간사회를 문자지식 패러다임으로 보고 이를 사이보그1이라 부르며 AI가 우리 세계를 가득 채우는 시기를 인공지능 패러다임으로 이해해야 한다는 견해가 새롭다. 인공지능 패러다임에 대해 어떻게 설명할지 책 후반부 내용이 기대된다. 다음 포스팅에서는 『인공지능이 할 수 있는 것, 할 수 없는 것』 <제4장 지능 패러다임> <제5장 AI시대> 부분의 내용이 이어집니다. https://blog.naver.com/cyclamen64/223437657713 현실적인 문제를 풀 때 AI의 한계는 복합적인 이유로 생긴다. 17세기 영국의 과학자 아이작 뉴턴은 세상의 무수한 데이터를 매우 간결하고 훌륭하게 기술할 수 있는 고전역학이라는 형식적 시스템을 만들어냈다. 뉴턴의 중력 법칙과 운동 법칙을 알면 이 세상의 너무 많은 것들이 수학적으로 설명된다. AI는 인간을 능가하는 기억력과 감각 센서를 갖고 있지만 AI가 17세기로 간다고 해도 뉴턴의 중력 법칙과 운동 법칙을 만들어내지는 못할 것이다. 우리의 일상적인 데이터는 중력의 법칙을 지지하지 않는다. 무거운 물건은 가벼운 것보다 빨리 떨어진다. 운동 법칙 F=ma도 마찬가지다. AI는 한 줄의 수식으로 표현하려고 노력할 필요를 느끼지 않을 것이다. 채팅GPT와 같은 거대 언어 모델이 많은 데이터를 통해 인간의 언어 행동을 상당히 잘 재현한 것은 대단한 일이다. 그러나 이것이 인간에 대한 모사이고, 또 그 안에 세계에 대한 모델이 존재한다고 생각하는 것은 타당하지 않다. 인간과 세상은 언어보다 더 복잡하다. 『인공지능이 할 수 있는 것, 할 수 없는 것』 1장~3장 부분을 읽었다. 지금까지 인공지능에 관한 책을 몇 권 읽었다. 인간이 사라진다 생성형 AI 사피엔스 인공지능과 뇌는 어떻게 생각하는가 등. 하지만 인공지능에 대한 이해는 어려웠다. 그런데 이 책의 2장과 3장을 읽어보면 인공지능의 두 가지 학습 방법이 머릿속에 잘 정리돼 있는 것 같다. 그리고 언어를 기반으로 문명화된 인간사회를 문자지식 패러다임으로 보고 이를 사이보그1이라 부르며 AI가 우리 세계를 가득 채우는 시기를 인공지능 패러다임으로 이해해야 한다는 견해가 새롭다. 인공지능 패러다임에 대해 어떻게 설명할지 책 후반부 내용이 기대된다. 다음 포스팅에서는 『인공지능이 할 수 있는 것, 할 수 없는 것』 <제4장 지능 패러다임> <제5장 AI시대> 부분의 내용이 이어집니다. https://blog.naver.com/cyclamen64/223437657713
인공지능이 할 수 있는 것, 할 수 없는 것(2)(4장 지능 패러다임~5장 AI시대) 4장 지능 패러다임 다양한 지능 ‘인공지능 패러다임’이라는 인공적으로 만들어진 모든 기술을… blog.naver.com 인공지능이 할 수 있는 것, 할 수 없는 것(2)(4장 지능 패러다임~5장 AI시대) 4장 지능 패러다임 다양한 지능 ‘인공지능 패러다임’이라는 인공적으로 만들어진 모든 기술을… blog.naver.com