Até tu, Pinker…

Que ninguém é perfeito, eu já sabia. Mas nem o Pinker? rsrs…

Em virtude da última matéria do site, sobre o mistério da consciência (i. e., a mente subjetiva), que foi publicada ontem na surdina (só vou voltar a divulgar o site quando atualizar outras coisas) e que defende as ideias do filósofo John Searle, eu fiquei com uma farpa intelectual me atormentando. Por causa disso, fui pegar meu antigo exemplar de Como a Mente Funciona, de Steven Pinker, e reler um trecho onde – que eu me lembrasse – Pinker refuta Searle.

A farpa era justamente esta: se Pinker refuta Searle, que diabos eu ia fazer, lá no site, defendendo as ideias de Searle?!

Pra minha inteira e não inteira surpresa, contudo, o que vi foi Pinker – logo ele, o indefectível Steven Pinker! – gastando uma página e meia com uma verdadeira asneira argumentativa. E lembrei, um tanto perplexo, da época em que, sem ainda saber nada sobre filosofia da mente, li Como a Mente Funciona (tem até uma foto no orkut onde poso com o livro) e não tinha como avaliar criticamente diversas passagens mais controversas. Mas não que se você não leu esta obra-prima, não deva parar sua vida agora pra ir lê-la… Vá! Continua sendo um livro “ou-você-lê-ou-você-não-é-ninguém”. Só não é perfeito, claro, como acabei de confirmar.

E, a partir de agora, vou explicar o erro de Pinker. É pra quem gosta de filosofia da mente (mas não precisa ser especialista nem nada, ok? Acho que dá pra arriscar, rs).

Vamos lá: Steven Pinker é cientista cognitivo; e a ciência cognitiva afirma que o cérebro é um computador e a mente, por sua vez, é o software do computador. John Searle (à direita), como mostrei lá no site, afirma que este é apenas outro modo de cometer o mesmo velho engano dos materialistas (filósofos da mente que afirmam que a mente é nada exceto partículas), isto é, o engano de afirmar que a mente, que é subjetiva, é igual a outra coisa, que é objetiva – no caso, um software de computador. Mas já afirmaram, igualmente, que a mente é a eletroquímica do cérebro, ou o comportamento… enfim, leia a matéria.

John Searle afirma que a computação pode apenas simular a mente, mas nunca produzir uma mente de verdade (com subjetividade, com estados qualitativos interiores como dor, alegria, visão de cores, etc. – nenhum computador, ou software, ganhará magicamente tais faculdades!); do mesmo modo, a computação pode apenas simular uma explosão, sem por isso produzir explosões reais.

Tudo isto deveria ser óbvio por si.

Mas como o mistério da consciência é tão bizarro que leva grandes intelectuais a cometer erros absurdos, Searle propôs um argumento – um clássico! – para provar o óbvio de uma vez por todas. O argumento da Sala Chinesa vem pra mostrar que computação é uma coisa, pensamento é outra. Computação é uma execução cega de regras; pensamento envolve entendimento real, consciente, em primeira pessoa.

Assim, imagine um programa que simula perfeitamente o entendimento da língua chinesa. Para Searle, esse programa apenas simula o entendimento de chinês. Para Pinker, esse programa entende chinês de fato – do mesmo modo que uma pessoa que vive na China! Para tirar a dúvida, Searle propõe o seguinte: coloque uma pessoa, que só sabe falar inglês, dentro de uma sala. Dê pra ela um conjunto de regras para seguir (as mesmas regras que o programa utiliza). Por uma janela, ela recebe papéis com símbolos chineses. De acordo com as regras, ela desenha outros símbolos (por exemplo: “se você receber dois riscos, desenhe três rabiscos; etc.”) e os devolve pela janela.

Ora, essa pessoa está simplesmente executando os passos do programa.

O chinês que está fora da sala fez uma pergunta em chinês e a enfiou na janela. Pouco depois, a resposta correta, em chinês, saiu pela janela. Do ponto de vista dele, há alguém fluente em chinês dentro da sala. Mas, na verdade, não. A pessoa lá dentro só sabe inglês. Não entende nem a pergunta e nem a resposta em chinês. Mas, obedecendo as regras, ela deu a resposta – sem entender nada, contudo! E esta é a diferença entre computar (simular) e pensar (entender). Embora os resultados possam ser iguais, o processo é completamente diferente. Os computadores fazem o que fazem (até compõem boa poesia e música – sério!), porém sem entender coisa alguma. Eles nem sabem que existem!

E, se Searle está certo sobre isso, toda a base da  área de Steven Pinker, a ciência cognitiva, está furada! A mente não é um computador coisa nenhuma. Daí eu me lembrar vividamente de, em Como a Mente Funciona, ver Pinker massacrando Searle. Ou tentando fazer isso.

Basicamente, Pinker diz que o argumento da Sala Chinesa, que vimos acima, “apela ao senso-comum”. E que o senso-comum geralmente foi refutado pela ciência (a geometria real não é plana, o tempo é relativo, todas aquelas loucuras quânticas, bla, bla, bla, etc.). E tenta achar o “pulo do gato” no fato de que a Sala Chinesa decompõe a computação, que é hiper-veloz, em seus pequenos passos, um por um – e, por isso, a computação não parece entendimento.

Eu fiquei de queixo caído ao ver Pinker propor esta objeção tão claramente furada. Fica claro como água que é ele quem está “apelando ao senso-comum”, já que ele espera seduzir a intuição das pessoas com a ideia de que a execução cega de regras, se for hiper-veloz, vai “parecer” entendimento real. Oras, como a mágica acontece?! O programa de computador que simula chinês apenas executa regras passo-a-passo, copiando os padrões sintáticos e semânticos do idioma. Não há entendimento algum ali. Então você dá flash-foward no sistema e, shazam!, o entendimento real surge? É loucura!

Mas, ok… eu sei que a intuição cambaleia entre os dois lados. Isto não é uma tese de mestrado, é um blog. Tenho certeza de que Pinker erra feio, mas precisaria de páginas e páginas para retirar todas as confusões que normalmente impedem as pessoas de verem isto. E, tá, tá… vai que o errado sou eu (e Searle).

Fato é que o assunto é incrivelmente emocionante.

😉

Anúncios

17 Respostas to “Até tu, Pinker…”

  1. Jonatas Says:

    Acho que estaria correto dizer que a computação pode produzir uma mente de verdade, a menos se entendermos computação num sentido abrangente que inclua o cérebro humano, que é uma espécie de computador. Se os parâmetros necessários à existência de consciência admitem uma maior ou menor variação para longe daqueles encontrados nos cérebros é algo ainda incerto, mas parece certo que admitam alguma variação. Qualquer que seja o princípio de funcionamento da consciência, não creio que os parâmetros específicos do sistema que a gera sejam muito essenciais.

  2. Paralelo Says:

    Qualquer que seja o princípio de funcionamento da consciência, não creio que os parâmetros específicos do sistema que a gera sejam muito essenciais

    Pois eu hoje acredito no perfeito oposto: que a seleção natural encontrou um modo ultra-específico de utilizar as propriedades físicas. Mas, para compreender meu ponto, é preciso lembrar que eu NÃO entendo a consciência como um “plus” que enfeita os algoritmos do cérebro. Eu creio que os algoritmos fariam com bilhões de vezes mais trabalho o que a mente consegue fazer de forma direta: produzir comportamento evolutivamente eficaz.

    Algoritmos precisariam calcular zilhões de variáveis, em cega terceira pessoa. A mente entende subjetivamente, é outro papo. Dizem que as tarefas ‘aparentemente mais simples’, como levar o copo de água à boca, são as mais complexas. Mas isto apenas se supormos que elas são COMPUTADAS. Acho que a seleção natural evitou o esforço, descobrindo um caminho mais eficaz: a mente.

    E, nesse sentido, creio que a seleção natural fez algo bem específico com o cérebro.

    *****

    Acho que estaria correto dizer que a computação pode produzir uma mente de verdade, a menos se entendermos computação num sentido abrangente que inclua o cérebro humano, que é uma espécie de computador

    Se você chamar o que o cérebro faz – seja o que for – de ‘computação’, então temos a típica afirmação vazia, né?

    Eu acho que ‘computação’ já tem significado específico: execução cega de regras formais (literalmente: de causalidade padronizada). E a consciência não é isso.

  3. Felipe Alexandre Ferreira Says:

    Ora, pelo artigo sobre o livro de searle me pareceu (digo, pelo artigo, talvez no livro isto esteja melhor esclarecido) que o searle também dá um tiro no pé. se a mente emerge das propriedades físicas do cérebro, não poderíamos criar neurônios artificiais e por fim um cérebro artificial do qual também emergeria a consciência? e se isto tudo for simulado num computador então? uma rede neural exatamente igual a um cérebro humano (se tivessemos tecnologia computacional para tanto), não emergiria também inteligência, que seria artificial?

  4. Paralelo (Lauro Edison) Says:

    Felipe,

    Searle é geralmente mal compreendido como se afirmasse não ser possível criar um robô consciente. É claramente possível. Nós mesmos somos robôs conscientes, então é tudo uma questão de reproduzir, numa máquina, tudo o que o cérebro faça.

    Mas!

    Nunca uma representação meramente computacional do cérebro poderia reproduzir a consciência, pela mesmíssima razão que uma representação meramente computacional do fogo jamais reproduziria o calor.

    E isto porque, estritamente falando, uma representação computacional não existe objetivamente. Só existe na interpretação mental que fazemos dela. Nós é que olhamos para aquele conjunto de padrões físicos e atribuímos uma interpretação ao sistema: por exemplo, a interpretação de que ele *simula* fogo, ou *simula* o cérebro. Mas não será quente ou terá consciência – porque não há nada realmente ocorrendo ali, só em nossas interpretações.

    Como diz Searle, é preciso reproduzir os *poderes causais* do cérebro, sejam quais forem, para gerar consciência. E mera computação – que é definida sintaticamente – não pode fazer isso.

    Eu costumava concordar com a Inteligência Artificial Forte, mas após compreender Searle, caiu a casa.

  5. MV Says:

    Vejo que os cientistas usam de analogias para criar o entendimento do assunto. Eu não seria tão radical e nem pegaria tanto “ao pé da letra” a argumentação de Pinker, bem como a de Searle. Acho que foram avaliados aspectos diferentes da mesma realidade, que é a tão complexa mente humana.

  6. Gustavo Says:

    Me perdoe se falar uma bobagem enorme, mas o problema pra mim é o fato de se acreditar que existe consciencia. Ela não é uma ilusão? Emulamos esta idéia de que estamos fora de algo e olhamos pra dentro, mas é só mais um sintoma. Dentro de um computador, temos diferentes tipos de memória, de acesso imediato, responsável por operações de gravação e leitura, etc.. Consciência não é o programa que evoca a memória mais imediata e ao mesmo tempo mais rápida. O motorzinho que não nos deixa parar… O vazio da experiência do budismo não poderia “suspender” ou anestesiar este chamado (como se tudo fosse uma grande rotina)

  7. Claudia Castro de Andrade Says:

    Acho que vc está confundindo, Pinker representa um tipo de AI Fraca e não Forte, pra ele a mente é como um computador, mas um computador, ele considera, não pode ter mente….ele não discorda de Searle quanto a isso…

  8. Paralelo (Lauro Edison) Says:

    Claudia, como você veio parar nesse blog quase abandonado, hehe? Bem, vejamos… de algum modo Pinker distingue “mente” (não subjetiva) de “consciência” (subjetiva) e, sem fazer muito alarde sobre essa distinção crucial, defende aos quatro ventos que “a mente é computacional, problema resolvido”. O que soa AI Forte e, de fato, muitos vêem Pinker assim. Então, pra piorar, ele critica Searle por negar que a computação possa explicar a mente (isto é, a consciência subjetiva — na terminologia de Searle). Ele inclusive repete as críticas de Dennett e Hofstadter.

    Então me parece que, se na prática Pinker defende apenas uma AI Fraca (concordando com Searle — sem saber ou admitir), de resto ele se comporta publicamente como se defendesse uma AI Forte (concordando com Dennett) — que é o paradigma de sua área, afinal, a ciência cognitiva.

    Nas vezes em que ele é explícito sobre o mistério da consciência não ter qualquer (princípio de!) solução conhecida, de algum modo continua acreditando que, de resto, “a mente” (i. e., a maneira como o cérebro consegue funcionar e ser inteligente) é perfeitamente explicada de forma computacional. E pode até ser. Mas a questão AI Fraca x AI Forte é sobre a consciência subjetiva, não sobre “a mente” no sentido que Pinker lhe dá.

  9. Paralelo (Lauro Edison) Says:

    o problema pra mim é o fato de se acreditar que existe consciencia. Ela não é uma ilusão?

    Gustavo, eu honestamente acho que quem faz essa objeção — e muitos fazem! — revela ainda não ter tido o insight básico sobre o quê, de fato, é a consciência subjetiva.

    Uma vez que se compreende o que a consciência subjetiva é, também se compreende automaticamente que ilusões são conscientes. É por isso que entidades sem consciência não podem se iludir sobre nada (porque não podem ter consciência, acertada ou enganosa, sobre nada).

    Costumo dizer, neste ponto: se uma pedra, de repente, “caísse na ilusão” de achar que era consciente, então ela seria de fato consciente. Se iludir já é ser consciente. Ou isto soa óbvio ou, mais uma vez, está sendo lido numa interpretação erradíssima (e então vai parecer algum dogma new age, presumo eu!).

  10. Claudia Castro de Andrade Says:

    Dennett não representa a IA Forte, ele representa o Physicalism type e não o physicalism token, Dennett ressalta as neurociências e não a teoria dos sistemas computacionais…. Sim, de fato, Pinker é crítico de Searle, mas sua crítica se dá apenas no sentido de que Searle nega a importância dos sistemas computacionais e Pinker não nega essa importância, mas Pinker concorda com Searle no tocante aos sistemas neurais, veja bem: Pinker defende que a mente é um órgão, da mesma forma que os rins e o coração, essa mente que vc chama subjetiva, o que acho um termo inapropriado, é o que contém o design inato e inferencial (mental) da matéria causal (cérebro), essa mente também faz parte do processo evolutivo e se torna consciente quando ocorre a vida…. a mente provém da base física e ao se tornar bios se torna consciência, é o chamado monismo unidimensional

    Resumindo: Pinker compara a mente com o computador, mas não defende que computadores possam ter senciência (como a IA Forte alega), além disso a base da mente é física, mas se projetar de modo consciente precisa ter neurônios, por isso computadores não podem ter estados qualitativos (como alegam os defensores da IA Forte)…

  11. Paralelo (Lauro Edison) Says:

    Claudia, me animei a me aprofundar um pouco…

    Dennett certamente defende a IA Forte, contra as objeções de Searle. Além disso, ele defende que a consciência humana é um software computacional, literalmente. Ocorre apenas que ele faz uma concessão inócua: talvez, por questões meramente práticas sobre o poder computacional de nossa tecnologia, se revele impossível atingir a complexidade necessária para gerar consciência (uma complexidade da ordem daquela que o cérebro, evolutivamente, atingiu). Mas isso não é relevante. Contra Searle, Dennett sustenta que em princípio a IA pode chegar lá. Afinal, é isso o que o cérebro faz. Isto, pra mim, é claramente estar do lado “IA Forte” do muro.

    Quanto a Pinker, me bastante claro que a crítica de Searle é: computação, que é meramente formal, nunca poderá (por si) atingir sintaxe, semântica, intencionalidade e subjetividade; por isso mesmo, não poderá atingir a consciência. Se pudesse fazer isto, a IA Forte estaria correta. Searle diz que não pode. Pinker o critica por isto. E argumenta, contra a Sala Chinesa, que o computador pode efetivamente entender chinês. IA Forte, pois. Contraditoriamente, Pinker dirá em outros contextos que não existe qualquer explicação plausível da “senciência” (i. e., consciência subjetiva, mente, na terminologia de Searle). O que já é se posicionar fora da IA Forte. Tudo sopesado, a posição pública de Pinker é simplesmente incoerente.

    Como eu disse, penso que Pinker concorda com Searle no ponto essencial e não sabe (ou não admite). Quando Pinker diz que o computador pode “entender” chinês, parece-me que isto significa: “entender-sem-estar-consciente-do-significado das frases em chinês”. É um sentido funcional de “entender”, que mais mereceria ser chamado de “processar adequadamente os padrões sonoros do chinês”. Para Searle — e para mim — isto não é entender de fato. “Entender”, pra valer, é entender subjetiva e qualitativamente. Pinker admitiria, se pressionado, ao menos isto: computação não explica, em absoluto, esse entender chinês.

    Pinker compara a mente com o computador, mas não defende que computadores possam ter senciência (como a IA Forte alega), além disso a base da mente é física, mas se projetar de modo consciente precisa ter neurônios, por isso computadores não podem ter estados qualitativos (como alegam os defensores da IA Forte)…

    Digamos que sim. Não obstante, Pinker critica o argumento da Sala Chinesa (Searle). O que é incoerente. Mas tem essa sutileza ainda: talvez Pinker acredite que computadores possam ter senciência; tudo o que ele diz é: se isto ocorre, não fazemos a menor ideia de como. A computação não explica a senciência, embora talvez a gere de um modo desconhecido. E o mesmo vale para o cérebro, diga-se (que, para Pinker, é afinal um computador).

    essa mente que vc chama subjetiva, o que acho um termo inapropriado, é o que contém o design inato e inferencial (mental) da matéria causal (cérebro)

    Nossas discordâncias fundamentais começam a emergir, hehe. Como a subjetividade [sensibilidade em primeira pessoa] é, precisamente, o aspecto misterioso e irredutível do mental (em minha terminologia, é o mental), a primeira reação é declarar que há alguma coisa imprópria com esse… “conceito”.

    Agora, a mente contém [consiste de?] o “design inato e inferencial” da matéria causal… Você parece conceber as coisas assim: a evolução levou o cérebro a se organizar, fisicamente, de um modo que reaja de maneira lógica/racional aos obstáculos do mundo. Perfeito. Mas então você parece entender que essa coordenação entre causalidade física e consequência lógica é a mente (ou explica a mente). Mas isso explica, no máximo, a evolução do comportamento inteligente, onde ele surgir. Não explica, em hipótese alguma, a mente: isto é, o caráter subjetivo, qualitativo, de primeira pessoa, que certos organismos como-que-magicamente possuem em seus cérebros.

    essa mente também faz parte do processo evolutivo e se torna consciente quando ocorre a vida

    Você diz que “essa mente se torna consciente”. Então distingue ambas. Prefiro dizer que ambas são sinônimos (e são a subjetividade; e são o que Pinker chama de “sensibilidade”; e são a primeira pessoa; e são o conjunto dos qualia) e perguntar: o que você está chamando de “mente”, se não é a consciência?

    a mente provém da base física

    Tirando teólogos, acho que isto é ponto pacífico. Até Chalmers concordaria. A questão é: provir da base física é diferente de (e até literalmente incompatível com) ser física. Meu palpite: a consciência (mente) não é física, no mesmo sentido em que as ondas eletromagnéticas não eram físicas, segundo a física newtoniana. Ou seja: para incorporar a consciência ao mundo físico, há de ser necessário outra vez alterar o que entendemos por “físico”. A consciência, sendo o que é, é obviamente incompatível com a noção moderna de física — porque esta é objetiva, e a mente é subjetiva.

    • Claudia Castro de Andrade Says:

      Sua concepção sobre Dennett precisa ser reavaliada, vc leu Darwin’s Dangerous Idea?

      • Paralelo (Lauro Edison) Says:

        Li, reli, consultei inúmeras vezes, rs. Por que, exatamente, você insiste que Dennett não concorda com a AI Forte?

      • Claudia Castro de Andrade Says:

        Por que uma coisa é aceitar a similaridade entre sistemas neurais e sistemas computacionais (IA Fraca), a outra é achar que qualquer estrutura complexa organizada seja capaz de produzir estados mentais (qualia) (IA Forte)

      • Paralelo (Lauro Edison) Says:

        Bom, parece-me bem claro que, para Dennett, certas (não quaisquer) estruturas computacionais são capazes de produzir estados mentais. Ele chega ao cúmulo, por exemplo, de considerar que um robô (real) que processa imagens de blocos (sendo então capaz de empilhá-los sob comando) é, de fato, consciente de tais blocos! Há uma dúvida, é verdade, sobre o que Dennett quer dizer com “consciente” aí. Inclui qualia? Às vezes Dennett parece negar isto, mas aí também nega que nós, humanos, tenhamos “esses qualia” (que seriam, pra Dennett, ficção filosófica). Fato é que, no sentido em que Dennett acha que somos conscientes, acha também que aquele robô é consciente. Parece-me AI Forte o suficiente, rs. Mas outra interpretação também vale (é a que Searle faz): Dennett não seria literalmente “AI Forte” porque está, de fato, negando que a consciência exista. Tendo a concordar. Só que Dennett nega isto.

      • Claudia Castro de Andrade Says:

        exatamente, ele nega veementemente os qualia, essa, inclusive, seria a crítica de Churchland contra ele…

  12. Claudia Castro de Andrade Says:

    booo

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s


%d blogueiros gostam disto: