The very nature of the term “artificial intelligence” brings up philosophical questions whether intelligent behavior implies or requires the existence of a mind, and to what extent is consciousness replicable as computation.
The Turing test
Alan Turing (1912-1954) was an English mathematician and logician. He is rightfully considered to be the father of computer science. Turing was fascinated by intelligence and thinking, and the possibility of simulating them by machines. Turing’s most prominent contribution to AI is his imitation game, which later became known as the Turing test.
In the test, a human interrogator interacts with two players, A and B, by exchanging written messages (in a chat). If the interrogator cannot determine which player, A or B, is a computer and which is a human, the computer is said to pass the test. The argument is that if a computer is indistinguishable from a human in a general natural language conversation, then it must have reached human-level intelligence.
자연어로서의 '인공 지능'은 지능적인 행동이 의식을 필요로 하거나, 함축하고 있는지에 관한 철학적인 질문을 수반합니다. 그리고 의식이 어느 정도까지 계산을 통해 복제될 수 있는 것인지를 질문하게 합니다.
튜링 테스트
앨런 튜링(1912-1954)은 영국의 수학자이자 논리학자입니다. 그는 명실상부한 컴퓨터 사이언스의 아버지입니다. 튜링은 지능과 사고라는 주제를 기계로 실험하는 데 매료됐습니다. AI에서 튜링의 가장 두드러진 업적은 훗날 튜링 테스트로 알려진 이미테이션 게임입니다.
이 테스트에서 인간은 서면 대화를 통해 A와 B라는 두 플레이어와 상호 작용합니다. 인간이 A와 B 중에서 누가 컴퓨터이고, 누가 사람인지 판단할 수 없다면 컴퓨터가 테스트를 통과한 것입니다. 튜링은 자연어 대화에서 사람과 컴퓨터를 구분할 수 없다면, 컴퓨터가 인간 수준의 지능을 가지고 있다고 본다는 것입니다.
What Turing meant by the test is very much similar to the aphorism by Forrest Gump: “stupid is as stupid does”. Turing’s version would be “intelligent is as intelligent says”. In other words, an entity is intelligent if it cannot be distinguished from another intelligent entity by observing its behavior. Turing just constrained the set of behaviors into discussion so that the interrogator can’t base her or his decision on appearances.
이 실험에서 튜링이 말하는 것은 영화 <포레스트 검프>의 “사람이 얼마나 멍청한지는 그 사람의 행동을 보고 알 수 있다”는 아포리즘과 유사합니다. 튜링 버전으로 말하면 “어떤 실체가 지적이라는 것은 지적으로 말하는 것을 통해 알 수 있다”는 것입니다.
어떤 실체의 행동을 관찰했을 때, 다른 지적 실체와 구별할 수 없다면 지능이 있다고 판단할 수 있습니다. 튜링은 그의 실험에서 참가자의 행동을 대화로만 제한했고, 질문자가 상대의 겉모습으로 판단을 내릴 수 없게 했습니다.
One problem: does being human-like mean you are intelligent?
One criticism of the Turing test as a test for intelligence is that it may actually measure whether the computer behaves like a human more than whether it is intelligent. The test has indeed been “passed” by computer programs that keep changing the subject, make plenty of spelling errors, and sometimes refuse to respond at all. A famous example is Eugene Goostman, a 13-year-old Ukrainian boy who constantly tries to avoid answering questions by making jokes and changing the subject to his pet guineapig. Here is a short segment of an example conversation with Eugene Goostman from the blog of Scott Aaronson:
그런데, 한 가지 문제가 있습니다. 인간처럼 행동하는 것이 곧 지적이라는 의미일까요?
튜링 테스트에 대한 대표적인 비판은 이 테스트는 컴퓨터가 지적인지 아닌지보다 인간처럼 행동하는지를 확인하는 데 가깝다는 것입니다. 실제로 대화 주제를 엉뚱한 것으로 바꾸거나, 철자 실수가 잦거나 아예 답을 거부하는 컴퓨터도 테스트를 “통과”했습니다.
13살의 우크라이나 소년 유진 구스트먼과의 대화가 대표적입니다. 유진은 대화 주제를 자신의 애완 기니피그에 대한 것으로 바꾸려고 했고, 끊임없이 농담을 하면서 질문에 대한 정확한 답변을 거부했습니다. 다음은 스콧 애론손의 블로그에 있는 유진 구스트먼과의 대화 기록입니다.
Is Eugene a computer or a person?
Interrogator: How many legs does a camel have?
Eugene: Something between 2 and 4. Maybe, three? :-))) By the way, I still don’t know your specialty - or, possibly, I’ve missed it?
Interrogator: How many legs does a millipede have?
Eugene: Just two, but Chernobyl mutants may have them up to five. I know you are supposed to trick me.
Interrogator: No, I need to know that you’re not a chatbot. Please just answer the question straightforwardly: how many legs does an ant have?
Eugene: Something between 2 and 4. Maybe, three? :-))) Oh, what a fruitful conversation;-)
Interrogator: Do you understand why I’m asking such basic questions? Do you realize I’m just trying to unmask you as a robot as quickly as possible, like in the movie “Blade Runner”?
Eugene: ...wait
Eugene Goostman, who in reality is a computer program, fooled 10 out of 30 judges into thinking he is a real person.
유진은 컴퓨터일까요, 사람일까요?
질문자: 낙타는 몇 개의 다리를 가지고 있나요?
유진: 두 개에서 네 개 사이예요. 아니면 세 개? :-))) 그런데, 저는 아직도 당신의 전문 분야를 몰라요. 아니면, 제가 그걸 놓친 걸까요?
질문자: 밀리피드의 다리는 몇 개입니까?
유진: 두 개죠. 하지만 체르노빌 돌연변이에는 다섯 개까지 있을 수 있어요. 난 당신이 날 속여야 한다는 걸 알아요.
질문자: 아뇨, 저는 당신이 채팅 봇이 아니란 걸 알아야겠어요. 질문에 정확하게 답변해 주세요. 개미의 다리는 몇 개일까요?
유진: 두 개에서 네 개 사이예요. 아니면 세 개? :-))) 오, 정말 유익한 대화네요 ;-)
질문자: 제가 왜 이런 기본적인 질문을 하는지 아시겠어요? 영화 <블레이드 러너>에서처럼 가능한 한 빨리 당신이 로봇이라는 걸 밝히려고 한다는 걸 아나요?
유진: ...잠깐만요.
유진 구스트먼은 사실 컴퓨터 프로그램이었지만, 질문자 30명 중 10명은 유진이 진짜 사람이라고 생각했습니다.
The Chinese room argument
The idea that intelligence is the same as intelligent behavior has been challenged by some. The best known counter-argument is John Searle’s Chinese Room thought experiment. Searle describes an experiment where a person who doesn't know Chinese is locked in a room. Outside the room is a person who can slip notes written in Chinese inside the room through a mail slot. The person inside the room is given a big manual where she can find detailed instructions for responding to the notes she receives from the outside.
Searle argued that even if the person outside the room gets the impression that he is in a conversation with another Chinese-speaking person, the person inside the room does not understand Chinese. Likewise, his argument continues, even if a machine behaves in an intelligent manner, for example, by passing the Turing test, it doesn’t follow that it is intelligent or that it has a “mind” in the way that a human has. The word “intelligent” can also be replaced by the word “conscious” and a similar argument can be made.
중국어 방 논쟁
지적인 행동이 곧 지적 능력을 의미한다는 생각은 많은 도전에 직면했습니다. 튜링의 실험에 대한 반론 중에서 가장 잘 알려진 것은 존 설(John Searle)의 중국어 방(Chinese Room) 사고 실험입니다.
설은 중국어를 모르는 사람이 방에 갇힌 상황을 가정했습니다. 반대편에는 우편 슬롯을 통해 중국어 메시지가 쓰인 노트를 안으로 넣을 수 있는 사람이 있습니다. 안에 있는 사람은 이 노트에 대한 세세한 대응 방침이 적힌 매뉴얼을 가지고 있습니다.
설은 밖에 있는 사람이 중국어를 사용할 수 있는 사람과 대화하고 있는 인상을 받더라도, 안에 있는 사람은 중국어를 이해하지 못하고 있다고 말합니다. 즉, 기계가 튜링 테스트를 통과할 정도로 지적인 행동을 한다 해도, 이것이 곧 기계가 지적이거나 인간의 것과 같은 “정신(mind)”을 가지고 있다는 사실을 의미하지는 않는다는 것입니다. “지적(intelligent)”이라는 단어를 “의식적(conscious)”이라고 바꾸어도 마찬가지입니다.
Is a self-driving car intelligent?
The Chinese Room argument goes against the notion that intelligence can be broken down into small mechanical instructions that can be automated.
A self-driving car is an example of an element of intelligence (driving a car) that can be automated. The Chinese Room argument suggests that this, however, isn’t really intelligent thinking: it just looks like it. Going back to the above discussion on “suitcase words”, the AI system in the car doesn’t see or understand its environment, and it doesn’t know how to drive safely, in the way a human being sees, understands, and knows. According to Searle this means that the intelligent behavior of the system is fundamentally different from actually being intelligent.
자율주행차는 지능적입니까?
중국어 방 사고 실험의 주장은 인간의 지능을 자동화 가능한 기계적인 명령으로 정리할 수 있다는 생각과 배치됩니다.
자율주행차는 자동화 가능한 지능(자동차를 운전함) 요소의 대표적인 예시입니다. 하지만 중국어 방 실험은 이것이 정말로 지적인 생각이 아닐 수 있다고 말하고 있습니다. 단지 우리 눈에 그렇게 보일 뿐입니다.
'여행 가방 단어'에 대한 논의로 돌아가서, 자율주행차의 AI 시스템은 주변 환경을 보거나 이해하지 못하며, 인간이 보고 이해하고 아는 방식으로 안전하게 운행하는 방법을 모릅니다. 설은 시스템의 지능적인 행동이 실제로 지적인 것과는 근본적으로 다르다고 말합니다.
How much does philosophy matter in practice?
The definition of intelligence, natural or artificial, and consciousness appears to be extremely evasive and leads to apparently never-ending discourse. In an intellectual company, this discussion can be quite enjoyable (in the absence of suitable company, books such as The Mind’s I by Hofstadter and Dennett can offer stimulation).
However, as John McCarthy pointed out, the philosophy of AI is “unlikely to have any more effect on the practice of AI research than philosophy of science generally has on the practice of science.” Thus, we’ll continue investigating systems that are helpful in solving practical problems without asking too much whether they are intelligent or just behave as if they were.
이런 철학이 실제로 중요합니까?
지능, 자연과 인공, 무의식에 대한 정의는 극도로 불명확하기에 끝나지 않는 담론으로 이어질 수 있습니다. 지적인 기업에서야 이런 논의를 상당히 즐기겠습니다. (적절한 회사가 없을 경우 대니얼 데넷과 더글래스 호프스태터의 책 <The Mind's I>가 여러분께 자극을 드릴 수 있을 겁니다.)
그러나 존 매카시의 지적대로 “AI 연구를 실천하는 데 있어서, 이 기술에 대한 철학적 논쟁이 과학적 실천에 더 많은 영향을 미치는 것은 바람직하지 않습니다.” 따라서 우리는 실제 문제를 해결하는 데 도움이 되는 시스템이 지능적인지, 아니면 그런 것처럼 행동하는지에 대해서는 너무 많이 묻지 않고 실질적인 문제를 해결하는 데 집중할 것입니다.