Inteligência Artificial, Explicabilidade e Responsabilidade

Fonte: imagem de Gert Aldman, disponível na plataforma Pìxabay – https://pixabay.com/illustrations/web-network-programming-3706562/

Um ano após uma das minhas corridas pela internet atrás do coelho branco, tive o enorme prazer de participar, como uma das mediadoras, da aula inaugural do Dept. de Filosofia da PUC-Rio, ministrada exatamente pelo filósofo Mark Coeckelbergh. A convite do Prof. Edgar Lyra, diretor do Departamento de Filosofia da PUC-Rio, Mark falou para uma público de mais de 300 pessoas (incluindo muitos participantes de fora da PUC-Rio, de fato, de fora do Rio, também). Com o título Artificial Intelligence and the problem of responsibility, foi uma palestra muitíssimo interessante, seguida de uma bateria de perguntas bem variadas (várias delas aludiram a implicações para a educação, especificamente).

Em preparação, eu havia feito a leitura do artigo “Artificial Intelligence, Responsibility Attribution, and a Relational Justification of Explainability” (clique aqui para baixar em pdf do site do autor), seguindo uma indicação do Edgar. De forma geral, o artigo discute a questão da atribuição de responsabilidade em relação ao desenvolvimento (e aos efeitos/decorrências) de tecnologias de AI/IA. Eis uma tradução livre da síntese do argumento, apresentada no finalzinho da Introdução:

O problema da atribuição de responsabilidade é inicialmente abordado a partir da distinção entre duas condições artistotélicas de responsabilidade, uma relacionada a controle e à necessidade de identificar o agente responsável, e outra que examina o conhecimento do agente. Primeiramente, assume-se que, mesmo que as tecnologias de AI ganhem mais agência, humanos permanecem sendo responsáveis, pois apenas eles podem ser responsáveis: tecnologias de AI podem ter agência, mas não atendem aos critérios tradicionais de agência moral e responsabilidade moral. Contudo, há muitos desafios envolvidos na atribuição e distribuição de responsabilidade, não apenas devido ao problema das “muitas mãos”, mas também devido ao que denomino de “muitas coisas”. É importante considerar também a dimensão temporal quando se pensa em causas. Atenção especial é dada, então, a problemas sobre o conhecimento relativo a algumas aplicações de machine learning que têm implicações para a questão da responsabilidade. Usualmente, esses problemas são discutidos em termos de transparência e explicabilidade. Porém, em contraste com muitas das discussões na literatura e em contextos públicos, ressalta-se que o problema do endereçado não deveria ser negligenciado quando se considera a explicabilidade: aqueles a quem os agentes morais são responsáveis. Visto de uma perspectiva mais relacional, há não apenas agentes morais, mas também pacientes morais na relação de responsabilidade. Argumenta-se que a demanda por explicabilidade não se justifica apenas pela condição de conhecimento (saber o que você está fazendo como um agente de responsabilidade), mas deveria basear-se no requisito moral de oferecer razões para uma decisão ou ação àqueles a quem você responde , para os pacientes da responsabilidade. Por fim, outros sentidos do termo “relacional” são explorados: responsabilidade coletiva e o aspecto social de se dar explicações.

Creio que compreender o processo de produção de tecnologias de AI é fundamental para desfazermos o “nó” que parece caracterizar muitas das discussões “não técnicas” dessas tecnologias. Essa compreensão está representada no texto, em particular, nas ideias das “muitas mãos” e “muitas coisas”: os muitos atores, humanos e não-humanos, bem como suas relações, todos mobilizados nessa produção. Nessa perspectiva, a questão da atribuição de responsabilidade se revela ainda mais complexa, mas é a questão da explicabilidade, em si, que permanece como um dos pontos problemáticos para mim. No trecho a seguir, o autor explica o problema (para mim, em parte):

(…) a maior parte dos comentaristas sobre AI concorda que há um problema particular com as ditas “caixas-pretas” constituídas por sistemas baseados em machine learning e redes neurais. Ao passo que, no caso da AI clássica, simbólica, a forma pela qual a tecnologia chega a uma decisão é clara, por meio, por exemplo, de uma árvore de decisão que tenha sido programada no software por especialistas de um domínio [específico do conhecimento], no caso de aplicações de machine learning, não fica claro como, exatamente, o sistema de AI chega a uma decisão ou recomendação. Trata-se de um processo estatístico, e aqueles que o criaram sabem como funciona de modo geral, mas mesmo os desenvolvedores – que dirá os usuários e aqueles afetados pelo algoritmo (…) – não sabem como o sistema chega a uma decisão específica relevante a uma pessoa específica. Eles não podem explicar ou tornar transparente o processo decisório em todos os seus passos.

Mais adiante, Coecklebergh cita estudos que buscam desenvolver técnicas para “abrir a caixa-preta” – essa é uma metáfora problemática que precisa ser examinada mais cuidadosamente (eu sempre desconfiei, desde os tempos de estudante de engenharia, de caixas-pretas – pensava sempre em caixas de Pandora…), juntamente com várias outras metáforas (e metonímias) encontradas nos discursos sobre AI. Pois a questão aqui é como conceber essa “explicabilidade”, uma vez que explicações e razões são contingentes ao público ao qual se destinam. Essa me parece ser a outra parte do problema da explicabilidade.

O artigo, no geral, se soma a outras leituras sobre o assunto que me deixam com a impressão de que o “projeto AI” atualmente em curso é uma péssima ideia. Escrevo isso sem querer implicar que haja qualquer tom profético no texto (ou seja, não identifico esse tipo de sentimento ali); tampouco há qualquer relação do argumento com a futurologia (ou seja, não há especulação em torno de uma possível tomada do mundo pela máquina ou outras ideias afins). Há uma argumentação lógica cujas premissas são explicitadas (inclusive o autor menciona que há limites em partir da perspectiva aristotélica de responsabilidade), e que sugere que as demandas para o desenvolvimento e uso responsáveis de AI são variadas.

Postas em contexto político e econômico (aqui já saímos do escopo do texto), essas demandas mostram-se ainda mais complexas. Reconhecendo o caráter ideológico da tecnologia, bem como daquilo que se diz sobre ela, me parece que a questão da explicabilidade não é apenas “técnica” no sentido de criarem-se descrições do comportamento de diferentes redes neurais a partir de diferentes modelos estatísticos, que permitam esclarecer as formas nas quais as representações destacadas da realidade são processadas por esses sistemas. As descrições precisam ser inteligíveis (se não aceitáveis, legítimas) para uma gama variada de “pacientes”, para usar o termo do autor.

Na palestra, Mark seguiu um caminho ligeiramente diferente do argumento do artigo, e, em seus comentários finais, disse algo me encantou: a necessidade premente (também por questões ecológicas) de pensarmos lógicas diferentes daquela centrada na ideia do “domínio”: da natureza, de outros seres, da própria técnica. Os usos de linguagem que remetem a essa ideia (em inglês, há o bendito harness e master) me incomodam muito e sempre me fazem pensar sobre a atualidade de Frankenstein (obra que ele explora neste lindíssimo texto). De todo modo, no fechamento, Mark mencionou o possível papel da Arte na “desconstrução” dessa lógica (ele não usou esse termo, daí as scare quotes). Gostaria que ele tivesse falado mais sobre isso, mas não era o cerne da palestra.

Fiquei animada para pensar um novo projeto (relacionado a este), mas estava afogada em ruído antes de John Cage me resgatar ontem…

Bem, para fechar (e parar de divagar…): por questões técnicas, a palestra foi gravada em parte, então o material está na fila de edição. Quando for disponibilizado, adicionarei o link em um edit aqui.

Começando o semestre acadêmico com uma discussão de base: o que é tecnologia?

Ausências e presenças…
No processo de organizar meu escritório em casa, comprei alguns revisteiros – o catálogo online mostrava várias cores, mas, na loja onde fui (sempre pela pressa), só rosa e azul. Apesar da dicotomia, o espaço ficou visualmente divertido, e o resultado esperado foi alcançado – artigos e impressos em ordem (quase – falta ainda colocar as essenciais etiquetas…).

Volto a escrever aqui após um tempo de silêncio, leituras e reflexão (professores pesquisadores nunca abandonam suas atividades inteiramente…), mas já a todo vapor nas preparações para o semestre.

Em meio a essas preparações, estou montando, com a Profa. Magda Pischetola, uma disciplina para o mestrado e doutorado intitulada Cultura Digital, Mídia e Educação. Com a Magda ocupadíssima com seus preparativos de retorno ao país, após um semestre de pós-doutorado na Universidade de Copenhague, temos trocado ideias por mensagens de texto e e-mail para fechar os detalhes da proposta inicial do programa da disciplina, que estruturamos em duas unidades: a primeira, sobre fundamentos, e a segunda, sobre debates correntes devidamente contextualizados em termos teóricos. Na discussão sobre fundamentos, especificamente, temos uma seleção de palavras-chave da área da Educação e Tecnologia, que incluem, obviamente, “tecnologia”. 

A ementa original da disciplina é bem clara no tocante à questão da contextualização, ou seja, do posicionamento histórico das ideias e conceitos centrais. Contextualização (incluindo histórica) tem sido um bordão meu há um tempo, pois muito do que se fala sobre tecnologia educacional tende a ignorar completamente as origens dos artefatos, nunca desvinculados de seus respectivos contextos de invenção, apesar de todas as “subversões” de uso possíveis.

Então, para apoiar a discussão sobre a questão do título desta postagem – o que é tecnologia? – estou pensando em utilizar excertos do livro Filosofia da Tecnologia, de Val Dusek (está parecendo difícil de encontrar no momento, mas temos na biblioteca da instituição). Para mim, temos aqui um volume introdutório de escopo enciclopédico sem o espaço necessário para sê-lo. Com isso, muitos assuntos bastante complexos são tratados de passagem no texto principal e em caixas separadas. Contrastando as escolhas de fontes com outros volumes da mesma natureza (um trabalho meu de longo prazo tem sido mapear trabalhos teóricos sobre tecnologia), há tanto presenças comuns quanto ausências – mas, aqui, obviamente, a palavra-chave é “escolhas” (e, para mim, pessoalmente, “ampliação de repertório”!).

Gosto bastante da estruturação do livro – em particular, o destaque dado ao determinismo tecnológico e a noções associadas torna o material relevante a um estudo introdutório que tem o propósito de fornecer aos alunos algumas ideias fundamentais que podem utilizar para questionar a presença / relação da tecnologia na / com a educação.  Veja abaixo um sumário gráfico do livro (clique na imagem para visualizar uma versão legível em pdf).

Pensando sobre o que levar aos alunos, resgatei alguns mapas conceituais que havia feito quando li o livro pela primeira vez. Já escrevi em outra postagem que utilizo o processo de compor esse tipo de mapa para me ajudar a visualizar o escopo e estrutura de um texto. Continuo achando que o processo é mais relevante do que os objetos que dele resultam, mas, com frequência, utilizo também os objetos como apoio para coordenar discussões em sala. 

Por hora, estou pensando em usar, ao menos, trechos dos capítulos 2, 6 e 7 – clique nas imagens abaixo para ver versões ampliadas dos mapas (podem ser baixados em pdf). Com fundo colorido, adicionei alguns questionamentos meus – com fundo turquesa, em particular, questões gerais norteadoras, que tem o propósito de abrir espaço para articulações com discussões da área da Educação. 

Mapa do Capítulo 2 – “O que é tecnologia? Definindo ou caracterizando a tecnologia” (clique na imagem para visualizar uma versão legível em pdf):

Mapa do Capítulo 6 – “O determinismo tecnológico” (clique na imagem para visualizar uma versão legível em pdf):

Mapa do Capítulo 7 – “A tecnologia autônoma” (clique na imagem para visualizar uma versão legível em pdf):

Trata-se, aqui, no meu entender, de discussões fundamentais que precisamos conduzir para que possamos contextualizar (e abordar criticamente) temáticas atuais da Educação e Tecnologia. Em particular, o uso de categorias pré-definidas (sem recurso a qualquer tipo de empiria) é algo que sempre me incomoda muito – ideias como “cibercultura”, “ciberespaço” (lindamente discutida por Edgar Gómez Cruz em seu excelente livro Las metáforas de internetcujo primeiro capítulo traça uma espécie de genealogia do termo tendo como viés a ideia de que se trata de uma “alucinação consensual acadêmica”) e, até mesmo, a “cultura digital” que temos no título da disciplina.

Estou aguardando a chegada de outro volume que parece ter, a princípio, a mesma proposta do livro de Dusek: Introduction to the Philosophy of Technology, de Mark Coeckelbergh. Não parece haver tradução para o português (bem, o livro foi publicado no final de 2019, ainda é cedo), o que dificulta a utilização com alunos, mas, para mim, será interessante ver as escolhas – presenças e ausências – feitas pelo autor. 

Verei ainda com a Magda sobre compartilharmos aqui o programa e mais recursos que ela está preparando – por hora, publicarei, em breve, mais uma postagem com recursos que podem ser baixados livremente (lembrando que este blog compartilha materiais sob um licença Creative Commons que determinar como única restrição que qualquer reutilização de materias tirados daqui indique a fonte original!).

Mais um encontro (o último do ano) do projeto *Educação, tecnologia e filosofia: diálogos interdisciplinares*

De um comercial disponível em https://www.youtube.com/watch?v=zwW1lndIyD0 – material levado pela Cristina Silveira, doutoranda do ForTec, para discussão em uma disciplina que ministrei nesse semestre que se encerra.

Tivemos na sexta passada (29/11) o último encontro – deste ano! – dos grupos envolvidos no projeto “Educação, Filosofia e Tecnologia: diálogos interdisciplinares”, que é apoiado pelo Instituto de Estudos Avançados em Humanidades, IEAHu, do Centro de Teologia e Ciências Humanas, CTCH da PUC-Rio.  Para quem está aportando aqui pela primeira vez: o projeto envolve os grupos Filosofia da Tecnologia, coordenado pelo prof. Edgar Lyra, do Dept. de Filosofia da PUC-RioFormação Docente e Tecnologias, ForTec, coordenado pela profa. Magda Pischetola, do Dept. de Educação da PUC-Rio, e o meu grupo, DEdTec. Contamos, também, com as contribuições da Lyana Miranda, pós-doutoranda e a mais nova integrante do ForTec.

Com esta postagem, fecha-se a primeira parte da (breve) memória que venho criando aqui desses nossos encontros; como esta, as outras postagens pertinentes foram registradas e catalogadas na categoria Projeto Diálogos Interdisciplinares.

A leitura preparatória para essa sessão foi o texto “A Revolução dos Bichos e o convite para estranhar algumas ‘certezas’ na modernidade educacional”, de André Bocchetti e José Cláudio Sooma Silva, o primeiro capítulo da coletânea Distopias e Educação. Entre ficção e ciência, organizada por Daniel Cavalcanti de A. Lemos (Editora UFJF, 2016). Esperamos, assim, fechar as discussões no escopo da primeira linha temática que identificamos inicialmente.

Dessa vez, a apresentação inicial ficou a cargo do Prof. Edgar, que começou destacando a estrutura do texto: uma apresentação que dá pistas sobre a perspectiva teórica dos autores (foucaultiana), seguida de apresentação da “saga dos bichos” em uma perspectiva diferente da leitura usual do livro (como uma crítica à revolução russa e seus desdobramentos) e, a partir dessa base, uma discussão do documento Declaração mundial sobre educação para todos, da UNESCO (1990/1998). Para a leitura tanto do livro, quanto do documento da UNESCO, os autores utilizam as ideias de forma-mandamento (no livro, concretizada nos sete mandamentos que encapsulam os princípios da revolução dos animais) e forma-salvação (que opera com base na construção discursiva de um “inimigo” – aqui, sintetizam o processo da seguinte forma: “Um binário, um acontecimento e um Outro” – p. 43). Como sugeriu Edgar, de modo sucinto, o texto pode ser lido como uma crítica ao “proselitismo do novo”.

Acho difícil alguém discordar da ideia de que estamos cercados, inundados, afogados nesse proselitismo – a imagem no início da postagem é apenas um de muitos outros exemplos que poderíamos escolher como ilustração dessa situação (nestes slides, há outros focalizados na educação). Novo, novos, novidades em sucessão infinda. Creio que essa idolatria do novo está implicada no sentimento de aceleração da existência do qual se tem falado – e isso me incomoda (e não é mais aquela “inquietação” acadêmica, mas um incômodo generalizado, mesmo, quase físico).

De fato, desde a minha primeira leitura desse texto, fiquei a refletir sobre anotações que havia feito em algum papelzinho já perdido, algumas questões relativas a esse fascínio pelo novo. Com uma enorme interrogação em vermelho, como lembro bem, havia algo assim: será que essa loucura teria a ver, de algum modo, com a preocupação do ser humano com a nossa finitude? Nas mídias e na cultura pop recente, temos testemunhado uma proliferação de soluções para o problema de como dar continuidade às nossas curtas existências (bem, dos que poderiam pagar por isso?): de vampiros (desde a década de 1990, alçados a uma condição de decadência glamorosa – ou a um tipo de glamour decadente – em múltiplas produções literárias e audiovisuais), com seus corpos super- ou preter- naturais, a formas de transcendência possibilitadas pela tecnologia (aqui, Westworld e a assustadora série britânica Years and Years me vêm à mente como o que talvez haja de mais recente).

Obviamente, há, também, leituras políticas a serem feitas aqui, mas evitemos mais disgressões, voltando a questões da educação…

Os discursos que promovem a EdTech operam, mais ou menos explicitamente, a partir de diferentes formas de culpabilização do professor – aquele que é refratário ou resistente à “inovação” – e das próprias instituições educacionais (particulamente as públicas) – aquelas que estão “quebradas”, “desatualizadas”, “fossilizadas” em modelos que não seriam apropriados para as demandas assumidas da contemporaneidade. Nesse cenário, a “inovação”, preferencialmente com base na utilização de artefatos digitais, seria a “salvação”. Temos visto isso claramente em nossas análises de dados empíricos – parecem ser amplamente válidos os achados que compartilhamos neste artigo, ainda que nosso foco tenha sido, especificamente, Big Data.

Em especial, identificamos, como uma das metáforas conceituais centrais às construções discursivas que analisamos, a metáfora orientacional NEW IS UP. Metáforas orientacionais conferem direcionalidade a uma ideia ou conceito; têm uma base corporal e cultural e, com frequência, veiculam juízos de valor polarizados, que é precisamente o caso aqui. O “proselitismo do novo” tende a tomar como base a demonização do que não é novo – o que já existe, o que seria “velho” e precisaria ser substituído. É uma forma de dicotomização com decorrências perversas (para bem além da Educação, que obviamente está imbricada em um contexto mais amplo). Parafraseando aqui o título de um ótimo livro de Neil Selwyn, é preciso desconfiar dessa conversa salvacionista da tecnologia como panaceia para uma educação “quebrada” – que reduz os professores (e alunos, de formas distintas) a peças de um arranjo mecanizado -, lembrando sempre que ela é muito produtiva em termos econômicos e políticos.

Como foi o caso nos encontros anteriores, a conversa foi longe. Há muita pressão para que se fomente “inovação pedagógica” em instituições, e ditos novos “modelos de ensino” são “implementados” (top down) e vendidos a partir de um núcleo discursivo comum que integra expressões tais como “digital”, “empregabilidade” e, na formação profissional (não apenas de professores), “integração teoria-prática” (veja aqui um exemplo). Há críticas, é claro, mas não vejo muitos questionamentos em torno das premissas que, de fato, têm sustentado esses discursos. As descrições de uma “educação quebrada” e de seus professores “anacrônicos” são falaciosas, mas só se revelam claramente como os espantalhos grosseiros que são com recurso à empiria: a ida ao mundo para ver o que de fato acontece. Nesse sentido, sugeri no encontro a possibilidade de encontrarmos práticas muito interessantes (com ou sem artefatos digitais) e que poderiam ser consideradas inovadoras de diferentes formas – práticas talvez até milenares, mas invisíveis porque são conduzidas por atores invisíveis. Seriam contra-exemplos para desafiar esses discursos falaciosos (e interesseiros). E mais do que contra-exemplos: poderiam constituir-se em práticas-modelo a serem disseminadas e adaptadas, mas que não precisariam, necessariamente, ser substituídas por “novidades”.

Por coincidência, alguns dias antes desse encontro, havia sido finalmente publicado um artigo (fruto de uma tese de doutorado que orientei) sobre patterns pedagógicos, mas, infelizmente, não me lembrei dele quando a Profa. Magda mencionou a análise de Dan Lortie do que denominou apprenticeship of observation: a ideia de que os professores ensinam da forma como foram ensinados, e que isso é um problema fundamental na formação de professores. Alguns excertos do livro de Lortie (1975) foram umas das primeiras leituras no programa de formação de professores que comecei a cursar na Inglaterra (e não finalizei), mas não lembrava mesmo do que se tratava. Não tenho mais o material daquela época, então fiz uma busca rápida e encontrei muitas referências até bem recentes, incluindo este artigo de 2006, que me pareceu interessante (é bem curtinho, então aproveitei e dei uma lida). Na sessão, o pessoal perguntou o que seria apprenticeship, e fiquei enrolada tentando traduzir algo bem problemático e que é, de fato, um ponto crítico da discussão de Lortie, pelo que vi aqui.

Meu primeiro contato com a ideia de patterns foi também há muitos anos (veja aqui, aqui e aqui) em um contexto da EdTech mais hard: EaD, muita gente da área da Computação e do Design, muito entusiasmo por tecnologias digitais que surgiam na época (início dos anos 2000). As ideias originais de Christopher Alexander, em A Pattern Language (1977) (publicado em português em 2012) e The Timeless Way of Building (1979) já circulavam então a todo vapor na Computação, e de lá começaram a ser introduzidas em discussões na educação, mas tendo como porta de entrada essa vertente (predominantemente determinista-tecnológica) da tecnologia educacional. Na Computação, a apropriação foi reducionista, segundo o próprio Alexander, mas, na Educação, foram feitas tentativas (discutíveis, como tudo nesse assunto) de se recuperar o essencial que o autor afirmou ter sido perdido na outra área.

Mas o que teriam patterns a ver com apprenticeship of observation?

Creio que há uma questão de fundo aqui, pertinente ao fato que a educação e suas práticas não existem em um vazio, mas, sim, são encarnadas, culturais, históricas, econômicas e políticas. Creio que toda ação educativa tem propósitos que determinam sua forma, e tais propósitos baseiam-se em premissas acerca do que seria a educação, para que serviria, para quem se destinaria – ou seja, concepções de objetos, sujeitos, relações e processos muitos complexos. É preciso ter-se uma perspectiva assim, mais ampla, para que faça sentido o que escrevi acima sobre desconfiança dos discursos da inovação. Não é simplesmente questão de dicotomizar educação/treinamento, como foi discutido no encontro, mas sim de compreender que há diferentes espaços, tempos e propósitos de formação de diferentes subjetividades.

Há alguns aspectos da abordagem de patterns que teriam que ser discutidos (e já li críticas à sua base estruturalista e sua linguagem idiosincrática e quase-religiosa – não estou encontrando os artigos no momento, mas posto outra hora), incluindo a própria forma de enquadrar qualquer coisa como um problema a ser resolvido (premissa que permeia toda a discussão em torno de patterns e de outras ideias pedagógicas que têm raízes no Design, como Learning Design, Design Thinking e outros rótulos que já circulam no país). Mas o que acho interessante é que, na Educação, a atenção de Alexander à observação do que há no mundo traduziu-se em métodos: patterns não são criados do nada, mas, sim, identificados por grupos de docentes em discussão e reflexão sobre suas práticas. Dessa forma, possibilita-se a identificação de conhecimento tácito e a reflexão sobre o que se sabe sem saber que se sabe, bem como a troca de ideias e a experimentação: uma forma de aprendizagem com pares que posiciona a prática docente como algo vivo a ser coletivamente descoberto e cultivado. A partir daí, podemos pensar em alternativas e escolhas (tema levantado na discussão, proverbial can of worms que leva a questionamentos filosóficos profundos e complexos, como interviu o Prof. Edgar), sempre em contexto.

O Prof. Edgar disse algo que adorei e depois me pareceu ainda mais pertinente quando comecei a pensar em patterns: que nosso papel como professores não é privar o aluno da “experiência galáctica da descoberta”, pois essa privação constituiria uma forma de violência. Eu não poderia concordar mais, e daí fiquei me perguntando: até que ponto isso poderia ser um problema na formação de professores? E mais: fiquei questionando o que escrevi na postagem do penúltimo encontro desta série, sobre a necessidade de chaves de leitura (teoria) para o trabalho pedagógico com obras ficcionais. Será que propor tais chaves concretizaria esse tipo de violência? Sem querer reduzir a questão a um problema “meramente” metodológico, sou inclinada a achar (agora – direito reservado para mudar de ideia daqui a pouco) que, talvez, a introdução de chaves deva ser feita, sim, mas, possivelmente, de forma gradativa e apropriada ao público em questão, ao contexto, aos propósitos de integrar a experiência estética em um contexto educacional que terá demandas e possibilidades próprias. Não sei, já abri mais um caminho de disgressão…

Retomaremos nossas discussões no próximo semestre, então termino deixando uma recomendação para quem não leu (também quem leu!) A Revolução dos bichos – uma versão animada que cheguei a assistir diversas vezes na televisão, naqueles tempos quando todo mundo parecia ter mais tempo. Duvido que ainda esteja na programação de alguma emissora.

Terceiro encontro do projeto *Educação, tecnologia e filosofia: diálogos interdisciplinares*

Colagem de thumbnails de capas de livros e cenas de filmes (composição da autora)

Tivemos ontem (sexta 25/10) o terceiro encontro dos grupos Filosofia da Tecnologia, coordenado pelo prof. Edgar Lyra, do Dept. de Filosofia da PUC-RioFormação Docente e Tecnologias, ForTec, coordenado pela profa. Magda Pischetola, do Dept. de Educação da PUC-Rio, e o DEdTec. O encontro é uma das atividades pertinentes ao projeto “Educação, Filosofia e Tecnologia: diálogos interdisciplinares”, que é apoiado pelo Instituto de Estudos Avançados em Humanidades, IEAHu, do Centro de Teologia e Ciências Humanas, CTCH da PUC-Rio. Dessa vez, o Prof. Ralph Ings Bannell, nosso colega no Dept. de Educação, e seu grupo se juntaram a nós, e a Profa. Magda mais uma vez participou via videoconferência. O prof. Alexandre Rosado do INES não pode estar presente, pois estava ocupado com o processo de seleção para o novo Mestrado em Educação Bilíngue.

Nessa sessão, ainda explorando a primeira área temática que identificamos no primeiro encontro, tomamos como base para a discussão o artigo “Hannah Arendt e a ficção científica“, do Prof Edgar e o “Prólogo” da obra A Condição Humana, de Hannah Arendt.

Para dar um impulso inicial na conversa, apresentei um rapidíssimo sumário do artigo utilizando os mapas mentais mostrados abaixo (clique nas imagens para baixá-las ou visualizá-las em formato pdf em abas separadas).

Usei o aplicativo Simple Mind, meu predileto, por sua simplicidade, em um tablet, mas veja aqui alguns exemplos compostos com outras possibilidades. Noto, também, que esses mapas não têm uma lógica única para sua confecção; de fato, acho o processo de compô-los muito mais útil do que os objetos que dele resultam, como escrevi aqui. O que normalmente faço é definir o nó central (por exemplo, o primeiro mapa abaixo toma como nó central o texto inteiro) e daí ir criando os nós seguintes, no sentido dos ponteiros do relógio. Só faço isso, porém, após, minimamente, duas leituras atentas, nas quais identifico os objetivos do texto, sua estrutura, argumento central, premissas, conclusões, enfim, um mínimo que me permita compreender o texto. Subsequentemente, adiciono (com fundo diferente ou como anotações que podem ser escondidas, para não sobrecarregar a imagem) observações, questões e relações com outros textos.

Mapa 1: Estrutura geral do artigo
Mapa 2: Alguns aspectos básicos da fundamentação teórica
Mapa 3: Temáticas e obras citadas

Como esses mapas foram feitos apressadamente, vale destacar alguns detalhes importantes:

  1. Não foi tomado simplesmente um único texto de Arendt, como o segundo mapa pode sugerir: de fato, o texto mobiliza diversos escritos da autora para contextualizar seu Prólogo e expandir a discussão de conceitos centrais à sua obra;
  2. No segundo mapa, em particular, usei aspas para demarcar citações literais, mas omiti as referências; em alguns casos, são comentários do autor, enquanto, em outros, são citações diretas de obras de Arendt. Não foi descaso, mas, sim, pressa (meus alunos sabem que sou chatérrima com autoria e citações, a ponto de insistir em lhes dizer que se trata, também, de uma questão de cortesia profissional…).
  3. Os elementos marcados com fundo lilás ilustram os tipos de adições que vou fazendo a partir de reflexões sobre possíveis articulações com outros escritos e, nesse caso, obras não elencadas pelo autor; essa parte é um trabalho continuado.

Edgar comenta no texto que a menção de Arendt à ficção científica é única em sua obra no sentido que foi uma ideia que a autora sugeriu mas não chegou a desenvolver. Pena que haja tanta desconfiança, digamos, desse gênero. De qualquer forma, esse texto foi um achado felicíssimo para mim, pois desde os meus tempos na Open University venho buscando materiais que tomem obras ficcionais como base para contextualização de discussões sobre Educação e Tecnologia. E como disse ao autor, fiquei bem surpresa de ver outra criatura (conheci pouquíssimas, pessoas com quem nem tenho mais contato) que parece *curtir* filmes B da década de 1950! 🙂

Para a disciplina de pós que estou ministrando neste semeste, por exemplo, selecionei alguns capítulos de A Educação por vir (coletânea de 2011 organizada por Júlio Aquino e Cyntia Ribeiro) e de Distopias e Educação – entre ficção e ciência (coletânea de 2016 organizada por Daniel Lemos). Deixei o interessantíssimo Fundamentalismo e Educação, organizado por Silvio Gallo e Alfredo Veiga-Neto (2009), para alguma outra ocasião (ainda que o assunto seja da mais pura atualidade…).

Em projetos passados, o foco não foi, especificamente, a ficção científica – este curso, produto de um desses projetos, utilizava uma gama de exemplos da dramaturgia selecionados por meu colaborador, o Prof. John Monk, que, na época, estava envolvido, junto a associações profissionais de Engenharia e Computação na Inglaterra, em projetos relacionados à inclusão do ensino de Ética na formação de engenheiros, técnicos e cientistas. Ontem, de fato, o prof. Ralph questionou se a integração de discussões filosóficas na formação de tecnólogos e cientistas seria um caminho para apoiar a reconstrução da esfera pública, que, segundo Arendt, Habermas e outros, estaria em crise. Em seu trabalho, John tomava a necessidade de tal integração como premissa.

Há, certamente, bastante discussão de obras ficcionais na área da Comunicação (por exemplo, há uma bela discussão de A Matrix no primeiro artigo/capítulo no livro A religião das máquinas, de Erick Felinto), mas pouco, pelo menos que eu tenha conseguido localizar até agora, que dê atenção a questões da Educação de forma minimamente aprofundada. Começam a surgir comentários sobre a significância de obras como a série Black Mirror para apoiar reflexões sobre as tecnologias, mas o problema é teórico: para que discussões de obras ficcionais sejam produtivas, é preciso teorização. O texto do prof. Edgar apresenta uma variedade de livros e filmes de ficção científica que poderiam se prestar muito bem à discussão de temáticas tratadas por Arendt em sua obra (mostradas nos mapas 1 e 3); ou seja, ainda que não dê centralidade à educação em sua discussão, o texto pode ser um excelente recurso pedagógico exatamente porque oferece, a partir de Arendt, chaves de leitura para as obras ficcionais. Sem isso, acho melhor que deixemos os livros e filmes a cargo da crítica cinematográfica especializada – ou para conversas informais com amigos.

[Falando em Black Mirror, uma nota de pé – ou meio – de página: o prof. Edgar me falou sobre uma coletânea que ainda está para sair, Black Mirror and Philosophy: Dark Reflections (The Blackwell Philosophy and Pop Culture Series)- e procurando por ela, encontrei mais material interessante: Black Mirror and Critical Media Theory e Inside Black Mirror, do próprio criador da série, Charlie Brooker. Este último parece já ter uma tradução para o português, mas o preço é impronunciável, inacreditável, imoral…]

Na sessão de ontem, na verdade, muitas questões relativas à educação foram levantadas. Especificamente, como Arendt fundamenta sua sugestão em um reconhecimento da “impossibilidade da linguagem comum – portanto, da política, acompanhar os desenvolvimentos científicos do século XX”, uma das temáticas que perpassam esse projeto foi diretamente levantada: interdisciplinaridade. Nesse particular, Edgar nos contou sobre a metáfora das barreiras que precisam ser transpostas para que haja conversas entre cientistas de diferentes áreas como “fossos com jacarés”. Enquanto a discussão passou a questões relativas à comunicação da ciência, em minha imaginação, a metáfora foi remixada e tomou a forma de uma provocação: seríamos nós, estudiosos e cientistas de diferentes especialidades, diferentes espécies de jacarés em aquários separados?

Enfim, além da questão da necessidade de uma base teórica consistente que ofereça chaves de leitura para abordarmos as obras, há também um “nó”, digamos, quanto à hipótese que fundamentaria usos pedagógicos da ficção (científica ou não). Creio (e acho que o prof. Ralph concorda) que suas “potencialidades políticas”, conforme diz Edgar no texto, não estariam desvinculadas de suas potencialidades estéticas. Está, aqui, algo a ser pensado, mas termino por aqui (a postagem já está muito longa) com as palavras da escritora estadunidense Ursula le Guin (talvez a lacuna mais significativa que identifiquei no inventário de obras do texto), que articula algumas dessas potencialidades de forma magistral (e, de quebra, falando sobre metáforas):

O artista lida com o que não pode ser dito em palavras.

O artista cujo meio é a ficção faz isto em palavras. O romancista diz em palavras o que não pode ser dito em palavras.

Palavras, então, podem ser usadas de maneira paradoxal, pois possuem, juntamente com um uso semiótico, um uso simbólico ou metafórico. (Palavras também têm som – um fato em que os positivistas linguísticos não demonstram interesse. Uma frase ou parágrafo é como um acorde ou uma sequência harmônica em música: seu significado pode ser compreendido mais claramente por um ouvido atento, mesmo que lido em silêncio, do que por um intelecto atento).

Toda ficção é metáfora. Ficção científica é metáfora. O que a separa de formas mais antigas de ficção parece ser o uso de novas metáforas, tiradas de alguns grandes dominantes de nossa vida contemporânea – ciência, todas as cinências, entre elas a tecnologia e as perspectivas relativista e histórica. A viagem espacial é uma dessas metáforas: assim como a sociedade alternativa, a biologia alternativa; o futuro também. O futuro, em ficção, é uma metáfora.

Uma metáfora do quê?

Se eu pudesse responder sem metáforas, não teria escrito todas estas palavras, este romance; e Genly Ai nunca terio sentado à minha escrivaninha e usado toda a tinta de fita da minha máquina de escrever para informar a mim, e a você, um tanto solenemente, que a verdade é uma questão de imaginação.

Ursula le Guin na Introdução de A mão esquerda da escuridão (trad. Susana L. de Alexandria, 2a ed. São Paulo: Aleph, 2014/1968).

Participantes de ontem na perspectiva do Edgar (acima) e da Magda

Atrás do coelho branco…

This image has an empty alt attribute; its file name is humpty-dumpty.gif
“Quando eu uso uma palavra”, disse Humpty Dumpty num tom bastante desdenhoso, “ela significa exatamente o que quero que signifique: nem mais, nem menos.”
“A questão é”, disse Alice, “se pode fazer as palavras significarem tantas coisas diferentes.”
“A questão”, disse Humpty Dumpty, “é saber quem vai mandar – só isto.”
Alice através do espelho.

Algumas semanas atrás, refletindo sobre uma ou duas discussões acadêmicas nas quais tinha participado recentemente, lembrei-me do ensaio Wittgenstein, nonsense and Lewis Carroll (1965). Até então, o artigo permanecia apenas listado em um registro de materiais que eu gostaria de ler mas não havia ainda conseguido acessar (e está aqui um dos aspectos dos quais mais tenho saudade de minha vida passada no proverbial “lá fora”: um sistema de bibliotecas em rede…). Enfim, no fim de semana retrasado, conversando com um amigo, surgiu o assunto (da nostalgia por bibliotecas…): para encurtar a história, em menos de cinco minutos, o amigo me enviou o texto.

Antes de “emburacar” na leitura, resolvi fazer uma busca para saber algo mais sobre o autor. Minha primeira parada foi a Wikipedia, mas não encontrei por lá uma página dedicada a George Pitcher (filosofia). Em uma busca grosseira no Google, encontrei várias páginas relativas a um homônimo na Inglaterra e, por fim, um obituário: “George Pitcher, scholar of contemporary philosophy beloved for his ‘sheer humanity,’ dies at 92” [George Pitcher, estudioso da filosofia contemporânea amado por sua pura humanidade, falece aos 92]. Data: janeiro de 2018. Parece ter sido um sujeito interessante.

Enfim, dentre três objetivos apresentados logo de início (escrita boa demais), o texto discute “tipos de nonsense” (não consigo pensar em um bom equivalente em português para isso – não acho que seja exatamente “absurdo”, como sugere o Google Tradutor) examinados por Wittgenstein como fontes de “confusões e erros” na Filosofia, posicionando-os como artifícios propositadamente usados, para efeitos humorísticos, por Lewis Carroll, autor de Alice no País das Maravilhas e Alice através do espelho. Encontrei o artigo em uma busca por escritos que explorassem, em particular, o maravilhoso diálogo da Alice com Humpty Dumpty, que frequentemente me vem à mente quando me vejo em discussões acadêmicas.

Bem, prosseguindo com as buscas, descobri uma verdadeira mina de leituras promissoras que partem de Wittgenstein para discutir especificamente a tecnologia. A perambulação on-line me levou a um número especial da revista Techné: Research in Philosophy and Technology. editada pela Society for Philosophy and Technology, intitulado Wittgenstein and Philosophy of Technology (n.3 de 2018). Fiquei um tempo passeando pelo site da associação e considerando os títulos dos artigos, lembrando de John Monk, colega fantástico que tive na Open University. Foi ele que me apresentou a Wittgenstein, e com ele tive a honra e o prazer de colaborar em vários projetos instigantes e criativos.

No final dos anos 1990, John já falava sobre jogos de tecnologia (veja aqui uma de suas aulas daquela época, registrada em 2002), e reencontro agora a ideia no material da Techné. Infelizmente ainda não consegui obter todos os artigos (só encontrei o editorial com acesso aberto), mas localizei Mark Coeckelbergh, presidente da associação e um dos organizadores do número, e há várias publicações pertinentes em seu perfil na plataforma ResearchGate. Baixei um de seus artigos para ler (Artificial Companions: empathy and vulnerability mirroring in human-robot relations), e, quase que instantaneamente, a plataforma me avisou que minha rede por lá tinha ganhado mais um nó. Achei simpático.

Mark fala sobre sua abordagem nesta palestra, dada em 2018 no Instituto de Estudos Avançados da USP (em inglês e sem legendas em português, mas a tradução automática, mesmo sofrível, deve ajudar):

Por fim, alguns artigos, vários livros interessantíssimos, uma palestra e muito mais: um mundo de ideias novas aparece quando se corre atrás do coelho branco…