Jonathan Tennenbaum – 1º de junho de 2020
A Inteligência Artificial promete libertar a humanidade do trabalho mental e desencadear uma revolução na produtividade, mas ainda não chegamos lá.
O personagem fictício de inteligência artificial “HAL” do filme 2001: uma Odisséia no Espaço, dirigido por Stanley Kubrik. O pioneiro da IA, Marvin Minsky, foi um consultor científico da produção futurista. Foto: Wikimedia
Esta é a primeira parte de uma série
A intenção deste artigo não é atacar a inteligência artificial como tecnologia.
Além dos perigos inerentes a todo desenvolvimento revolucionário, a IA traz um vasto e crescente conjunto de benefícios, desencadeando cascatas de avanços nos mais variados campos da ciência e da tecnologia, libertando as pessoas da labuta mental, tornando a vida mais conveniente e a economia mais produtiva.
Dito isto, a IA ainda tem um longo caminho a percorrer. Dada a escala colossal e sem precedentes de esforço e criatividade investidos no desenvolvimento de sistemas de IA e incorporados em seus bancos de dados, não está claro que a IA tenha produzido mais inteligência do que os humanos colocaram nela.
Há um lado problemático na inteligência artificial, ao qual me referirei sob o título geral de “estupidez”. Aqui pretendo que o termo “estupidez” seja entendido em um sentido analítico, não pejorativo. Nos humanos, pelo menos, a estupidez e a inteligência – mesmo o grande brilhantismo – não se excluem. Frequentemente coexistem, como a experiência nos ensina.
Neste e nos próximos artigos pretendo abordar o problema da estupidez da IA em três dimensões inter-relacionadas:
A. Fraquezas inerentes aos sistemas baseados em computador projetados de acordo com os princípios da inteligência artificial como atualmente entendidos, que os tornam estúpidos em um sentido um tanto análogo à estupidez dos seres humanos. A estupidez dos sistemas de IA é a causa raiz da maioria dos problemas e riscos conhecidos relacionados ao seu uso em situações da vida real.
B. A estupidez dos pioneiros da IA e da maioria de seus sucessores – apesar do grande brilhantismo intelectual – em abraçar a noção de que a cognição humana é fundamentalmente algorítmica por natureza; ou é, em última análise, baseado em processos de tipo algorítmico. Da mesma forma, a estupidez de adotar dispositivos de computação digital como paradigma principal para entender a mente humana e o cérebro como um órgão biológico.
Essas suposições gratuitas, sem base científica, energizaram alguns dos primeiros trabalhos sobre sistemas de IA; mas, a meu ver, eles dificultaram muito seu desenvolvimento posterior. Como resultado, não apenas a IA per se, mas grande parte do que hoje é chamado de “ciência cognitiva” ficou presa no mundo minúsculo e plano da combinatórica e dos modelos matemáticos formais.
A expressão chinesa 井底之蛙 (jǐngdǐzhīwā) – o sapo no fundo do poço – se encaixa perfeitamente!
C. Estupidez induzida nos seres humanos por suas interações com sistemas de IA e pelo impacto da chamada “revolução cognitiva” e seus precursores filosóficos na linguagem, educação, ciência e cultura em geral.
O perigo não é que os sistemas de IA se tornem mais inteligentes que os humanos. Em vez disso, as pessoas podem se tornar tão estúpidas a ponto de não conseguirem mais reconhecer a diferença. Aqui a mesma regra vale para formas de cognição especificamente humanas, como para exercitar nossos músculos: “use-o ou perca-o”!
O que é estupidez?
É difícil definir o significado de “estupidez” de uma maneira que se encaixe nos critérios acadêmicos atuais. Não obstante, o fenômeno da estupidez tem sido foco de atenção na cultura humana desde os primórdios conhecidos, refletido em antigas tradições orais, em ensinamentos de anciãos e sábios, em inúmeras fábulas, histórias e anedotas.
Desde os primeiros tempos, o humor metafórico e a ironia foram cultivados como contramedidas à estupidez. Pode-se especular com razão que a raça humana não teria sobrevivido sem eles. Embora o “banco de dados” tenha se expandido muito ao longo da história, é duvidoso que as pessoas hoje tenham mais percepção sobre a natureza da estupidez do que há 3.000 anos.
Dito isso, a literatura das últimas décadas sobre o problema da estupidez contém caracterizações úteis, que extraí e mostrarei aqui.
Problema típico: uma empresa tem funcionários altamente inteligentes e capazes e uma administração aparentemente excelente. Depois de alguns sucessos iniciais, ela falha e vai à falência, como resultado de erros persistentes, erros de julgamento e mau desempenho. O que aconteceu?
O estudo de tais casos levou estudiosos e consultores de administração ao conceito de “estupidez funcional”. (Veja, por exemplo, The Stupidity Paradox – The Power and Pitfalls of Functional Stupidity at Work, de Mats Alvesson e André Spicer.)
Embora a “estupidez funcional” geralmente se refira a um contexto institucional, ela lança luz sobre todo o espectro da estupidez, desde indivíduos até sociedades inteiras.
Os pontos a seguir são minha tentativa de capturar a essência da estupidez em quatro pontos. Eles não se aplicam exatamente da mesma maneira a cada uma das dimensões A, B e C identificadas acima, mas as analogias devem ficar claras à medida que prossigo:
1. A adesão contínua aos procedimentos, hábitos, modos de pensar e comportamento existentes, combinada com uma incapacidade de reconhecer sinais claros de que são inadequados ou mesmo desastrosos no caso concreto dado. Adesão rígida à experiência anterior e aprendizado mecânico diante de situações que exigem um novo pensamento. Pode-se falar de comportamento cegamente “algorítmico” no sentido mais amplo.
2. Incapacidade de “pensar fora da caixa”, de olhar para o quadro geral, de pular mentalmente para fora do processo no qual está envolvido e fazer perguntas exageradas como: “O que estou realmente fazendo?” e “Faz sentido?” e “O que realmente está acontecendo aqui?”
3. Uma tendência a superestimar muito a eficácia das estratégias e métodos adotados para lidar com um novo problema (por exemplo, o Efeito Dunning-Kruger em humanos, normalmente exibido em IA utilizando métodos estatísticos de otimização).
4. Falta de capacidade de compreender o significado de declarações, situações e eventos – um déficit normalmente referido em humanos por expressões como: “Esta pessoa é burra demais para entender…”.
Estupidez em sistemas de IA
Não surpreendentemente, com a disseminação da IA para praticamente todos os setores da sociedade e da economia e a crescente dependência dos sistemas de IA, aumentou a preocupação com as consequências das falhas da IA.
Além de erros diretos (como a falsa identificação de objetos), o mau desempenho dos sistemas de IA pode levar a consequências indesejadas e prejudiciais em áreas em que deveriam substituir o julgamento humano.
Isso inclui escolher entre cursos de ação alternativos – por exemplo, ao dirigir um carro em uma situação potencial de acidente ou responder a ameaças militares com tempos de alerta curtos – bem como em tarefas como processar pedidos de emprego e projetar tratamentos médicos.
O assunto aqui não é se os sistemas de IA funcionam melhor ou pior do que os humanos em um determinado caso. É, antes, a estupidez como um problema sistêmico, abrangendo tanto a dimensão humana quanto a dos sistemas de IA.
Muitas vezes, eles estão interligados e é uma questão interessante, com implicações legais, como a responsabilidade pelas consequências das falhas de IA deve ser compartilhada entre os projetistas, os fornecedores de banco de dados e os gerentes e usuários do sistema.
Os sistemas de IA falham e funcionam mal de várias maneiras. (Veja Esquemas de classificação para falhas de inteligência artificial por PJ Scott e RV Yampolski.) Poucos analistas têm procurado identificar um denominador comum de maneira rigorosa.
Mas tenho certeza de que muitos que lidaram com sistemas de IA por tempo suficiente – principalmente aqueles que, muitas vezes com grande perspicácia e engenhosidade, procuraram remediar as falhas dos sistemas de IA e melhorar seu desempenho – serão capazes de fazer analogias com o comportamento estúpido de seres humanos.
Eles tiveram que investir grandes quantidades de inteligência humana adicional em sistemas de IA no esforço de torná-los menos estúpidos.
A seguir vem a Parte 2: Como a mecânica algorítmica limita os sistemas de IA atuais
Jonathan Tennenbaum recebeu seu PhD em matemática pela Universidade da Califórnia em 1973 aos 22 anos. Também físico, linguista e pianista, ele foi editor da revista FUSION. Ele mora em Berlim e viaja frequentemente para a Ásia e outros lugares, prestando consultoria em economia, ciência e tecnologia.
Fonte : https://asiatimes.com/2020/06/why-ai-isnt-nearly-as-smart-as-it-looks/
Muito bom!