Da didacografia de Comênio à IA: artigo publicado (por ora, em inglês)

Acabo de ver que saiu, no Journal of Interactive Media in Education, JIME, meu artigo From Didachography to AI: metaphors teaching is automated by, escrito em discussão com os queridos parceiros Márcio Lemgruber e Thiago Cabrera.

Esse é para comemorar, pois concretiza alguns anos de estudo e discussão com Márcio e, mais recentemente, Thiago.

Em breve, teremos a publicação de uma tradução para o português – o JIME é uma revista internacional produzida por uma editora comercial, mas com uma política de acesso aberto, então é divulgada sob uma licença Creative Commons, ou seja, podemos republicar, traduzir, enfim, divulgar o trabalho sem termos que pagar royalties (por nosso próprio trabalho…).

O artigo trata da enraizamentos históricos de ideias atuais da EdTech – deixo, abaixo, o abstract, e convido os interessados para lerem o trabalho!

Although automation is not a novelty, high hopes are currently pinned on more and more ingenious devices built with Artificial Intelligence (AI). AI has become a key discussion point in the agendas of governments and multinational agencies, with particular interest in educational applications. This article explores parallels between ideas surrounding AI in education and conceptions proposed in the 17th century by Jan Amos Comenius, known as the father of modern education. Drawing upon illustrations from ongoing research that takes metaphor as its core analytical category, the piece assumes that metaphors are not mere stylistic elements, but strategic persuasive devices. Comenius’ didachography, a portmanteau coined in his 1657 Didactica Magna to describe an inclusive educational system, relies heavily on metaphors that suggest remarkable similarities with contemporary EdTech rhetoric, especially on AI-related developments. Whilst exemplifying that ideas and premises entailed in current discourses on EdTech may hark back to centuries-old ideas, the paper argues that, despite taking on varying, contextually situated linguistic expressions, underlying metaphors appear to have endured from Comenius’ time to support the advent of an educational system poised to automate teaching and, thus, dispense with a key part of his scheme: the teacher. In closing, the piece suggests that we may need to acknowledge the contingent nature of teaching and learning, perhaps accepting that key aspects of what makes us human may always resist engineering.

Baixe o artigo em pdf aqui.

Pra não dizer que não falei …

… (ainda) do chatGPT….

O assunto #dahora não passou despercebido por aqui – seria impossível, até porque parece já estar instalado um certo pânico moral generalizado, principalmente na educação. Mas parece que estamos naquele momento no qual everybody is talking about it, então vamos lá com meus dois centavos (de observações gerais e uma analogia colorida…).

Não lembro de onde tirei o meme no início da postagem, e também não sei se é “ruim” que a fila à direita seja mais longa do que a fila à esquerda, que me parece representar uma aceitação sem questionamentos da inevitabilidade dessa e de outras “coisas” associadas à IA. Já andei, mesmo sem intenções explícitas, na fila à direita :-), junto com gente querida que compartilhou comigo trocas bastante interessantes. A fluidez dos textos é realmente impressionante, mas parece que erros factuais não são raros (por ora, pelo menos).

Separei alguns escritos que sintetizam pontos que acho interessantes:

  • Já estarem cobrando (no Brasil) por um serviço que, até agora, parece ser mais uma “solução em busca de um problema” (parafraseando Neil Selwyn neste texto, neste livro);
  • Interessante como foram “cavar” um precursor local, considerando como é pequena, no geral, a preocupação atual com enraizamentos históricos da tecnologia (comentei sobre esse problema nos estudos sobre a tecnologia educacional, especificamente, aqui);
  • O medo do fim de certas profissões;
  • Várias matérias no site Porvir, quase todas cobrando “inovação” de escolas (ou “da educação”);
  • Uma rápida mudança de perspectiva, de “tecnologia útil” a “barganha fáustica“, em matérias de John Naughton no jornal The Guardian. Aqui, acrescento que aprecio demais mudanças assim – acho que são importantes para “balançar” as pessoas que pensam que autores, acadêmicos, autores, enfim, gentes criativas seriam seres acabados que estariam sempre a “defender” o mesmo ponto de vista, quando o que torna a vida intelectual e artística interessante e rica é exatamente a possibilidade de mudança.
  • Preocupação com uma possível “escassez de dados” para treinar IA: matéria no MIT Tech Review (uma das fontes que listei aqui sobre “coisas edtech”, mas em português), que me chegou ainda há pouco via Camila Leporace. Achei de uma ironia absurda…

Esses são alguns dos textos que andei lendo – há muitos sobre preocupações com plágio e, sobretudo, a falta de fontes nas respostas. Eu mesma já perguntei ao bot sobre as fontes que usa, e a resposta foi a mesma que outras pessoas me disseram ter recebido: em essência, algo como “não fui desenhado para citar minhas fontes”. Essa é a base da preocupação de muita gente na educação, pois o texto retornado pelo chat pode passar por “original”, pelo menos na perspectiva dos detetores de plágio. Para mim, a preocupação com plágio é algo a ser repensado, pois não vejo como um “problema” que passa apenas pelo texto (escrevi um pouco sobre isso aqui), mas isso é o que temos para hoje, como dizem.

Uns dias atrás, estava curtindo com minha filha uma certa nostalgia da infância dela enquanto assistíamos um dos filmes da saga de Harry Potter, e IA me veio à mente. Especificamente, estávamos vendo o segundo filme, Harry Potter and the Chamber of Secrets. [spoilers adiante, então pare aqui se não leu/viu e pretende ainda fazê-lo] Nesse episódio, surge o malévolo Lord Voldemort na figura de seu self adolescente, Tom Riddle, preservado em um diário. O diário parece vazio, mas Harry descobre que, ao escrever nele, recebe respostas – veja no clip abaixo.

O diário é manipulador, também, induzindo seu interlocutor a ações, mesmo contra sua vontade (não Harry, que tem a “mente” mais forte da ficção infanto-juvenil…). Fiquei pensando se seriam, de certa forma, pedaços da “alma” humana (coletiva, no caso) o que sustenta coisas como chatGPT – seriam “diários”, como o de Riddle, parciais, enviesados e temporais? (ainda que estejam “aprendendo” com as próprias perguntas que lhe são feitas – em ato falho interessante, escrevi, originalmente, “apreendendo”) O desejo de Riddle pela imortalidade e sua ambição de querer controlar tudo e todos tornam o diário triplamente amaldiçoado, pois, para ter um “pedaço” armazenado, a alma precisa ser fragmentada por meio do ato mais vil possível: o assassinato de outro ser humano. Essa história, pelo menos, tem um final (relativamente) feliz: os fãs da saga lembrarão de que Harry triunfa sobre o diário e sobre Voldemort, que, ao fim e ao cabo, não era mais humano, mas sim puro “mal” destilado.

Enfim, avisei que seriam apenas algumas observações gerais e uma analogia colorida…

Falando em história da tecnologia educacional… Comenius!

Lembrando de uma postagem de algumas semanas atrás, sobre a relevância da História nos estudos da Educação e Tecnologia: acaba de sair uma coautoria minha com os queridos Thiago Cabrera e Márcio Lemgruber: “Comenius, tecnologia e educação: uma perspectiva mumfordiana“, na revista Intersaberes, número especial “Educação e filosofia da tecnologia: perspectiva histórica e debates contemporâneos“.

Eis a proposta:

Comenius é apontado, nos livros de História da Educação, como o fundador da pedagogia moderna. Em sua Didactica Magna, publicada em latim em 1657, o autor propôs uma forma de organização detalhada como arcabouço para um sistema educacional inclusivo, um modelo baseado em metáforas e analogias relacionadas à produção manufatureira em expansão em sua época. Este artigo discute a proposta de
Comenius como uma solução técnica para a democratização da educação que se mostra uma importante precursora de formas de pensar a relação entre a educação e a tecnologia na contemporaneidade. O texto examina aspectos da contribuição de Comenius a partir de uma perspectiva inspirada na obra de Lewis Mumford, historiador e filósofo da tecnologia. Em particular, toma o conceito mumfordiano de “megamáquina” para discutir a “didacografia” comeniana, que é apresentada na Didactica em uma analogia detalhada entre a tipografia e a sala de aula. Nessa ótica, o sistema educacional de Comenius seria uma megamáquina composta essencialmente de seres humanos mecanizados, embora não prescinda de artefatos como modelos ou mesmo antecipe a perspectiva de mecanizações mais radicais.

Comenius é um personagem fascinante, um bom “lugar” para começar a desvelar enraizamentos históricos de ideias que sustentam a tecnologia educacional contemporânea, tomando metáforas como eixo teórico fundamental.

Baixe aqui o artigo completo.

O Futuro da Mente: entre a tecnologia e a arte (respiro e digressão)

Participei (como ouvinte) ontem das 1as Jornadas Luso-Brasileiras de Pensamento Contemporâneo, intituladas O Futuro da Mente: entre a tecnologia e a arte, um evento on-line organizado por um grupo de pesquisadores do Brasil e de Portugal, incluindo meu colega de departamento Ralph Bannell.

O programa do evento está disponível aqui, e os resumos das apresentações, aqui. Entre elas, a apresentação de Thiago Cabrera, também meu colega de departamento e membro do DEdTec, apresentou as bases, partindo da Fenomenologia de Husserl, em particular, sobre as quais vem explorando a potência do ficcional audiovisual, um assunto que me interessa.

Em várias das falas, foram mencionados ilustrações e exemplos do domínio do sonoro e/ou musical, e isso sempre me chama a atenção, junto com argumentação que levante objeções à concepção do digital como imaterial. Focalizando na materialidade do digital, um dos palestrantes sugeriu que a tela touch, ao ser tocada, não oferece resistência. Para mim, porém, a inclusão de sons nessa operação modifica a experiência de utilizar esse tipo de tela significativamente (eu sou daquelas pessoas chatas que gostam de experimentar com diferentes efeitos sonoros na digitação). Lembrei que saí do meu doutorado com a ideia de que todos os sentidos estão envolvidos na experiência musical (do sonoro, de forma geral), ou seja, não é apenas a audição – na época, comecei a ler sobre as experiências de músicos surdos e de pessoas com sinestesia, e, muitos anos depois, já em outras trilhas, encontrei David le Breton caminhando nessa direção em seu Antropologia dos sentidos. Fiquei então pensando que talvez toda experiência “estética” seja de todos os sentidos, ou seja, que a nossa divisão entre os sentidos é meio arbitrária, ainda que possa ser necessária – isso apimentaria qualquer discussão sobre a “natureza” do “virtual” e do “ciberespaço” (veja o capítulo 14 aqui para um argumento sustentando que se trata de uma “alucinação consensual acadêmica”), e me parece relevante em tempos de VR e AR.

Achei também interessante ver a velha discussão (para algumas gentes que conheci no passado, incluindo meu orientador de doutorado, an old chestnut – adoro essa expressão) em torno do que seria música (com uma referência a Susanne Langer e seu Philosophy in a New Key, a primeira recomendação de leitura que o orientador me passou) dar sinais de que ainda vai muito bem, obrigada. Acho que é um assunto bem difícil de abordar sem um mínimo de jargão teórico da musicologia – não como tecnicalidade esvaziada, mas por aquilo de conceitual que pode apontar (ocultar?), e que é necessário (creio) para nos levar para além de um “senso comum” quase invariavelmente baseado em preferências pessoais. Mas admito que possa estar sendo excessivamente preciosista.

Enfim, foi um dia excelente de respiro intelectual que me tirou de um cotidiano ultimamente repleto de tarefas administrativas.

Em tempo: acho que vale a pena ficar de olho no blog da Camila Leporace, uma das mediadoras, caso apareça lá uma resenha detalhada das discussões.

Mesa: Inteligência Artificial na Educação

Participei ontem de uma mesa coordenada por Murillo Marschner, professor do Dept. de Sociologia da USP, junto com o Luis Junqueira, sócio-fundador da Letrus, plataforma de tecnologia educacional que utiliza Inteligência Artificial (IA) para auxiliar no letramento de estudantes

O evento foi o último de um ciclo de mesas redondas sobre as oportunidades e os desafios que a IA impõe à democracia, que vem acontecendo desde julho de 2021 com o objetivo de introduz alguns dos temas que serão discutidos durante o I Seminário Internacional Inteligência Artificial: Democracia e Impactos Sociais, a ser realizado em 13 e 14 dezembro de 2021 sob a organização do Center for Artificial Intelligence, C4AI, da USP, e do Observatório da Inovação e Competitividade, OIC-IEA-USP)

Assista a conversa no link a seguir.

Terceirizando a aprendizagem?

Fonte: Pexels

Nesta semana que passou, fui apresentada a uma novidade que não é tão nova, afinal: as plataformas de geração de paráfrases. Um detalhe interessante é que foram alunos de graduação que me indicaram dois exemplos – segundo disseram, usam para ajudá-los a reescrever e compreender (talvez essa parte tenha surgido ali, no ato da confissão não solicitada?) trechos que não entendem em textos complicados.

Ainda não sei o que pensar sobre isso, mas curiouser and curiouser, entrei no Google Scholar para ter uma noção dos pontos de discussão no momento, e fiz uma busca por [“paraphrasing tools” AND learning]. Desmarcando a caixa com “include citations”, sobraram 446 resultados. Restringindo o ano de publicação para 2017-2021, sobraram 80 resultados.

Olhando por alto, saltaram-me aos olhos os trabalhos relativos ao “problema” do plágio, alguns focalizados no desenvolvimento de sistemas para apoiar a detecção de plágio a partir da identificação de paráfrases geradas automaticamente, o que me pareceu bem esquisito. Além disso, há também também a questão da venda de serviços especializados de escrita de trabalhos acadêmicos, automatizados ou não. Esta plataforma, por exemplo, promovida pela Google Ads, segue o modelo Freemium – serviço básico gratuito com a monetização de serviços extra (pretensamente, pois necessidades vão sendo criadas ao longo da interação com o artefato, por exemplo, jogos).

Tenho uma forte inclinação a achar que as discussões sobre plágio na educação que partem de perspectivas moralizadoras (“é errado e, assim, repreensível”) ou legalistas (“é ilegal”) afastam-se de aspectos que me parecem fundamentais: questões relativas à forma e ao papel da avaliação, questões relativas ao que se pode esperar de estudantes em diferentes momentos de sua formação, questões sobre o papel da imitação, mesmo, no processo, enfim, questões que têm a ver com aprendizagem – o processo, nossas concepções dele, bem como as dos estudantes, tudo isso concretizado em práticas.

Usei learning na busca porque queria ver se havia discussão em torno de algum desses assuntos. Precisaria fazer outras buscas (como digo aos meus alunos de Metodologia de Pesquisa: “usem bases acadêmicas melhores”…), então, por hora, permanece comigo a ideia de que o uso desses geradores seria mais uma forma de terceirizar (ao menos, aspectos de) esse processo. 

A pensar mais…

Entre a ficção e a realidade: uma experiência

No 7o Colóquio de Pesquisas em Educação e Mídias, que aconteceu on-line na semana passada, apresentei, junto com alguns dos integrantes do DEdTec, um relato sobre o trabalho que conduzimos em 2020.2: Uma experiência de formação com a ficção durante a pandemia: da distopia à esperança. Eis a proposta original:

Apesar da euforia em torno das tecnologias de internet como meios para manter as instituições educacionais em funcionamento durante a pandemia de covid-19, a realidade representada em relatos de jornais, blogs e artigos científicos é bastante diversa. Mundo afora, vidas estão sendo profundamente afetadas (ou, infelizmente, perdidas), e, no âmbito da educação em um país com desigualdades tão marcantes quanto o nosso, professores e estudantes têm enfrentado desafios, em alguns casos, intransponíveis. Mais do que nunca, talvez, a profissão docente se revela como uma das profissões do cuidado: somos formadores de seres humanos. Em particular, na crise que estamos vivendo, nossas propostas pedagógicas precisam superar uma visão “conteudista” do currículo e considerar as possibilidades e limites do aqui e agora, integrando-as, na medida do possível, em nossas ações junto aos nossos alunos.

Nesse sentido, esta proposta baseia-se em uma reflexão sobre uma experiência conduzida, no segundo semestre de 2020, com um grupo de estudantes em processo de formação para a pesquisa em Educação. Na esteira de experimentações anteriores (por ex., Ferreira et al. 2020; Rosado et al, 2015), e inspirada em literatura que explora o potencial da ficção como um recurso formativo (por ex., Aquino & Ribeiro, 2011; Lemos, 2016), a experiência em questão teve dois objetivos principais: (1) apoiar o desenvolvimento de criticidade acerca da relação entre a educação e a tecnologia, utilizando cenários ficcionais que exploram a relação entre humano e máquina; (2) proporcionar um espaço de discussão que possibilitasse a articulação entre o acadêmico e o não acadêmico, sobretudo o pessoal e o vivido. Nesse sentido, foram selecionadas algumas obras de ficção distópica como base do trabalho do grupo ao longo do semestre, complementadas com textos acadêmicos (incluindo Postman, 2005 [1985], Coeckelbergh, no prelo; Haraway, 2009 [1991], dentre outros).  

As seguintes obras foram examinadas em encontros síncronos semanais: (a) Autofab, episódio do seriado Electric Dreams que revisita e atualiza, para o nosso momento de expansão da Inteligência Artificial e criação de robôs antropomórficos, o conto de Phillip K. Dick escrito na década de 1950, quando os temores da humanidade tinham por objeto a tecnologia nuclear; (b) Frankenstein, de Mary Shelley, um clássico da literatura gótica vitoriana considerado o precursor da ficção científica; (c) Metropolis, de Fritz Lang, um clássico do expressionismo alemão que, além de constituir um marco na história do cinema, permanece intensamente relevante em sua exploração da relação entre tecnologia e sociedade; e (d) Admirável Mundo Novo, de Aldous Huxley, uma obra publicada em 1932 de notável presciência, que mantém viva sua atualidade, em particular, no que diz respeito às decorrências do avanço tecnológico para a reprodução biológica e sociocultural, conforme destacou Postman (2005 [1985]).

A apresentação aqui proposta irá abordar: (a) os fundamentos teórico-conceituais e a metodologia planejada para a experiência; (b) leituras do grupo a partir das obras (e articulações entre elas), focalizando em formas nas quais essas obras podem nos ajudar a compreender e questionar o contexto atual mais amplo no qual a educação se insere; (c) questões imbricadas nos processos comunicacionais remotos síncronos em um contexto considerado, em si mesmo, distópico. Nele, a experiência mostrou-se não apenas um exercício intelectual, mas sim uma exploração criativa e fortemente solidária, que acolheu e promoveu a reflexão individual e a construção compartilhada de significados em/sobre um contexto desafiador e circunstâncias, com frequência, delicadas. Assim, em uma perspectiva mais ampla, a experiência constitui-se em um exemplo de como a reflexão a partir de narrativas distópicas pode se tornar um alicerce para a humanização, a resistência e, quiçá, a esperança.

Palavras-chave: educação superior na pandemia; distopia; ficção científica; formação de pesquisadores

Referências

AQUINO, J.G.; RIBEIRO, C. (Org.). A Educação por vir: experiências com o cinema. São Paulo: Cortez, 2011.

AUTOFAC (Temporada 1, ep. 8). Electric Dreams [Seriado]. Direção: Peter Horton. Podução: Channel 4 Television Corporation e Sony Pictures Television, 2017. 1 vídeo (51 min).

COECKELBERGH, M. Antropologias do monstro e tecnologia: máquinas, ciborgues e outras ferramentas tecno-antropológicas. In: BANNELL, R.I.; MIZRAHI, M.; FERREIRA, G.M.S. (Org.) Deseducando a educação: mentes, materialidades e metáforas. Rio de Janeiro: Ed. PUC-Rio, no prelo.

DICK, P.K. Autofab. In: DICK, P.K. Electric Dreams. Trad. Daniel Luhmann. São Paulo: Aleph, 2017 [1955].

FERREIRA, G.M.S. et al. Estratégias para resistir às resistências: experiências de pesquisa e docência em Educação e Tecnologia. e-Curriculum, v. 18, n. 2, p. 994-1016, 2020. Disponível em: < https://doi.org/10.23925/1809-3876.2020v18i2p994-1016 >. Acesso em: 15 jan. 2021.

HARAWAY, D. O manifesto ciborgue. In: Tadeu, T. (Org.) Antropologia do ciborgue. As vertigens do pós-humano. Trans. Tomaz Tadeu. 2a ed. Belo Horizonte: Autêntica, 2009 [1991].

HUXLEY, A. Admirável Mundo Novo. Trad. Vidal de Oliveira e Lino Vallandro. Porto Alegre: Ed. Globo, 1979 [1921].

LEMOS, D.C.A. (Org.) Distopias e Educação. Entre ficção e ciência. Juiz de Fora: Editora UFJF, 2016.

METROPOLIS. Direção: Fritz Lang.  Produção: Erich Pommer. Alemanha / Finlândia: Universum Film / Yleisradio, 1927/2010. 1 DVD (153 min.).

POSTMAN, N. Amusing ourselves to death. Public discourse in the age of show business. 20th anniversary edition. Nova York; Londres: Penguin, 2005 [1985].

ROSADO, L.A.S. et al. De Metropolis a Matrix: arte e filosofia na formação de pesquisadores em educação. Leitura: Teoria e Prática, v. 33, n. 54, p. 97-110, 2015. Disponível em: < https://ltp.emnuvens.com.br/ltp/article/view/371/272 >. Acesso em 15 jan. 2021.

SHELLEY, M. Frankenstein, ou o Prometeu moderno. Trad. Bruno Gambarotto. São Paulo: Hedra, 2013 [1818].

Os slides da apresentação podem ser baixados neste link.

Infelizmente, meu parceiro nessa aventura de trabalho com filmes e livros, o Prof. Márcio Lemgruber, não conseguiu estabilizar sua conexão à Internet na hora da sessão e, assim, não conseguiu participar, mas eu e Kadja Vieira, mestranda no DEdTec, fizemos a apresentação. Kadja criou o layout para os slides, deixando apenas alguns detalhes para eu finalizar, pois já tínhamos aproveitado a primeira sessão de discussão do grupo neste semestre para organizar as ideias, até porque há muita gente ingressando no grupo agora e achei importante darmos uma ideia ao pessoal novo sobre os caminhos que trilhamos no ano passado.

As perguntas que recebemos foram bastante interessantes e permitiram que elaborássemos um pouco mais as ideias, tanto sobre a experiência em si, quanto sobre as pesquisas em andamento. Gostaria, porém, de dar destaque às respostas dadas por minhas orientandas, que mostraram como a experiência tem sido, de fato, produtiva: como orientadora (professora, de forma mais geral), não espero que meus alunos saiam pelo mundo repetindo o que digo (aqui lembro sempre do amigo Alexandre Rosado, com quem compartilho um horror a sectarismos acadêmicos), mas que se apropriem das ideias com as quais têm contato por meu intermédio e, principalmente, que as questionem sempre. As palavras das três – Kadja, Juliana e Cristal – sugeriram que estamos mesmo a caminhar dessa forma, o que me deixou bastante satisfeita.

Quero também ressaltar o papel fundamental do Prof. Márcio no processo que tem permitido que nosso espaço de discussão vá se constituindo como um espaço livre, protegido, acolhedor e fortemente dialógico: temos uma crença compartilhada de que é mais importante dizer algo sobre o que alguém disse do que simplesmente repetir o que já foi dito, sempre, obviamente, de forma consistente com o momento de formação de cada um. Por outro lado, não abandonamos o papel que nos cabe, como docentes, no sentido de dar apoio e direcionamentos possíveis a cada um que embarque na construção desse caminho que pensamos ser a criticidade.

Tem sido um privilégio estar com ele e com todos que escolhem permanecer no grupo, e é desse estar junto, mesmo que on-line, que a esperança vai se nutrindo – como disse o escritor Ítalo Calvino no fechamento de seu maravilhoso As Cidades Invisíveis,

Inteligência Artificial, Explicabilidade e Responsabilidade

Fonte: imagem de Gert Aldman, disponível na plataforma Pìxabay – https://pixabay.com/illustrations/web-network-programming-3706562/

Um ano após uma das minhas corridas pela internet atrás do coelho branco, tive o enorme prazer de participar, como uma das mediadoras, da aula inaugural do Dept. de Filosofia da PUC-Rio, ministrada exatamente pelo filósofo Mark Coeckelbergh. A convite do Prof. Edgar Lyra, diretor do Departamento de Filosofia da PUC-Rio, Mark falou para uma público de mais de 300 pessoas (incluindo muitos participantes de fora da PUC-Rio, de fato, de fora do Rio, também). Com o título Artificial Intelligence and the problem of responsibility, foi uma palestra muitíssimo interessante, seguida de uma bateria de perguntas bem variadas (várias delas aludiram a implicações para a educação, especificamente).

Em preparação, eu havia feito a leitura do artigo “Artificial Intelligence, Responsibility Attribution, and a Relational Justification of Explainability” (clique aqui para baixar em pdf do site do autor), seguindo uma indicação do Edgar. De forma geral, o artigo discute a questão da atribuição de responsabilidade em relação ao desenvolvimento (e aos efeitos/decorrências) de tecnologias de AI/IA. Eis uma tradução livre da síntese do argumento, apresentada no finalzinho da Introdução:

O problema da atribuição de responsabilidade é inicialmente abordado a partir da distinção entre duas condições artistotélicas de responsabilidade, uma relacionada a controle e à necessidade de identificar o agente responsável, e outra que examina o conhecimento do agente. Primeiramente, assume-se que, mesmo que as tecnologias de AI ganhem mais agência, humanos permanecem sendo responsáveis, pois apenas eles podem ser responsáveis: tecnologias de AI podem ter agência, mas não atendem aos critérios tradicionais de agência moral e responsabilidade moral. Contudo, há muitos desafios envolvidos na atribuição e distribuição de responsabilidade, não apenas devido ao problema das “muitas mãos”, mas também devido ao que denomino de “muitas coisas”. É importante considerar também a dimensão temporal quando se pensa em causas. Atenção especial é dada, então, a problemas sobre o conhecimento relativo a algumas aplicações de machine learning que têm implicações para a questão da responsabilidade. Usualmente, esses problemas são discutidos em termos de transparência e explicabilidade. Porém, em contraste com muitas das discussões na literatura e em contextos públicos, ressalta-se que o problema do endereçado não deveria ser negligenciado quando se considera a explicabilidade: aqueles a quem os agentes morais são responsáveis. Visto de uma perspectiva mais relacional, há não apenas agentes morais, mas também pacientes morais na relação de responsabilidade. Argumenta-se que a demanda por explicabilidade não se justifica apenas pela condição de conhecimento (saber o que você está fazendo como um agente de responsabilidade), mas deveria basear-se no requisito moral de oferecer razões para uma decisão ou ação àqueles a quem você responde , para os pacientes da responsabilidade. Por fim, outros sentidos do termo “relacional” são explorados: responsabilidade coletiva e o aspecto social de se dar explicações.

Creio que compreender o processo de produção de tecnologias de AI é fundamental para desfazermos o “nó” que parece caracterizar muitas das discussões “não técnicas” dessas tecnologias. Essa compreensão está representada no texto, em particular, nas ideias das “muitas mãos” e “muitas coisas”: os muitos atores, humanos e não-humanos, bem como suas relações, todos mobilizados nessa produção. Nessa perspectiva, a questão da atribuição de responsabilidade se revela ainda mais complexa, mas é a questão da explicabilidade, em si, que permanece como um dos pontos problemáticos para mim. No trecho a seguir, o autor explica o problema (para mim, em parte):

(…) a maior parte dos comentaristas sobre AI concorda que há um problema particular com as ditas “caixas-pretas” constituídas por sistemas baseados em machine learning e redes neurais. Ao passo que, no caso da AI clássica, simbólica, a forma pela qual a tecnologia chega a uma decisão é clara, por meio, por exemplo, de uma árvore de decisão que tenha sido programada no software por especialistas de um domínio [específico do conhecimento], no caso de aplicações de machine learning, não fica claro como, exatamente, o sistema de AI chega a uma decisão ou recomendação. Trata-se de um processo estatístico, e aqueles que o criaram sabem como funciona de modo geral, mas mesmo os desenvolvedores – que dirá os usuários e aqueles afetados pelo algoritmo (…) – não sabem como o sistema chega a uma decisão específica relevante a uma pessoa específica. Eles não podem explicar ou tornar transparente o processo decisório em todos os seus passos.

Mais adiante, Coecklebergh cita estudos que buscam desenvolver técnicas para “abrir a caixa-preta” – essa é uma metáfora problemática que precisa ser examinada mais cuidadosamente (eu sempre desconfiei, desde os tempos de estudante de engenharia, de caixas-pretas – pensava sempre em caixas de Pandora…), juntamente com várias outras metáforas (e metonímias) encontradas nos discursos sobre AI. Pois a questão aqui é como conceber essa “explicabilidade”, uma vez que explicações e razões são contingentes ao público ao qual se destinam. Essa me parece ser a outra parte do problema da explicabilidade.

O artigo, no geral, se soma a outras leituras sobre o assunto que me deixam com a impressão de que o “projeto AI” atualmente em curso é uma péssima ideia. Escrevo isso sem querer implicar que haja qualquer tom profético no texto (ou seja, não identifico esse tipo de sentimento ali); tampouco há qualquer relação do argumento com a futurologia (ou seja, não há especulação em torno de uma possível tomada do mundo pela máquina ou outras ideias afins). Há uma argumentação lógica cujas premissas são explicitadas (inclusive o autor menciona que há limites em partir da perspectiva aristotélica de responsabilidade), e que sugere que as demandas para o desenvolvimento e uso responsáveis de AI são variadas.

Postas em contexto político e econômico (aqui já saímos do escopo do texto), essas demandas mostram-se ainda mais complexas. Reconhecendo o caráter ideológico da tecnologia, bem como daquilo que se diz sobre ela, me parece que a questão da explicabilidade não é apenas “técnica” no sentido de criarem-se descrições do comportamento de diferentes redes neurais a partir de diferentes modelos estatísticos, que permitam esclarecer as formas nas quais as representações destacadas da realidade são processadas por esses sistemas. As descrições precisam ser inteligíveis (se não aceitáveis, legítimas) para uma gama variada de “pacientes”, para usar o termo do autor.

Na palestra, Mark seguiu um caminho ligeiramente diferente do argumento do artigo, e, em seus comentários finais, disse algo me encantou: a necessidade premente (também por questões ecológicas) de pensarmos lógicas diferentes daquela centrada na ideia do “domínio”: da natureza, de outros seres, da própria técnica. Os usos de linguagem que remetem a essa ideia (em inglês, há o bendito harness e master) me incomodam muito e sempre me fazem pensar sobre a atualidade de Frankenstein (obra que ele explora neste lindíssimo texto). De todo modo, no fechamento, Mark mencionou o possível papel da Arte na “desconstrução” dessa lógica (ele não usou esse termo, daí as scare quotes). Gostaria que ele tivesse falado mais sobre isso, mas não era o cerne da palestra.

Fiquei animada para pensar um novo projeto (relacionado a este), mas estava afogada em ruído antes de John Cage me resgatar ontem…

Bem, para fechar (e parar de divagar…): por questões técnicas, a palestra foi gravada em parte, então o material está na fila de edição. Quando for disponibilizado, adicionarei o link em um edit aqui.

O dia depois de amanhã virá, mas o que estamos aprendendo hoje?

Esta postagem compartilha um esboço que fiz em preparação para a fala de abertura de uma roda de conversa por Zoom organizada ontem pela Rede de Apoio ao Docente da PUC-Rio. O encontro reuniu por volta de 60 professores das mais diversas áreas do conhecimento, incluindo alguns rostos conhecidos do Departamento de Educação e muitos outros que ainda não conheço pessoalmente, mas que, espero, o possa fazer em breve. A conversa foi mediada pela Profa. Erica Rodrigues, do Departamento de Letras.

Além de oferecer apoio pedagógico e técnico, a RAD e a CCEAD da PUC-Rio vêm promovendo uma série de eventos visando a apoiar o ensino remoto que a instituição passou a oferecer a partir de meados de março, quando se iniciou a quarentena no Rio de Janeiro. Há, também, diversas iniciativas dedicadas aos alunos, apoiadas pela Rede de Apoio ao Estudante (RAE) da universidade. Enfim, neste momento particularmente difícil que estamos vivendo, são espaços de troca essenciais, representativos do nível de mobilização da instituição (que também está atuando de forma concreta com auxílio às comunidades próximas do campus, além de alunos em situação de fragilidade).

Minha fala era apenas para abrir a conversa, mesmo, mas talvez haja nela elementos úteis a colegas de outras instituições que estão, como nós na PUC, começando a planejar o semestre que vem. De qualquer forma, aqui está, em uma postagem que integra as imagens que projetei e alguns links e ideias adicionais, no final.

Boa tarde a tod@s, e muito obrigada por estarem aqui. Agradeço, em particular, às Profas. Zena Eisenberg e Elisa Almeida, minhas colegas no Departamento de Educação que me fizeram o convite em nome da Rede de Apoio ao Docente (RAD).

Permitam-me uma apresentação ligeira: estou em meu quarto semestre na PUC, após sete anos como Professora Adjunta no PPGE da UNESA, onde coordenava a linha de pesquisas em Educação e Tecnologia, e, antes disso, outros quinze como Professora Pesquisadora na Open University do Reino Unido, que é uma instituição de Educação Aberta a Distância. Minha pesquisa se insere na área dos Estudos Críticos da Educação e Tecnologia, e tenho trabalhado com teorias do discurso, focalizando, em particular, nas metáforas associadas à construção da relação educação/tecnologia.

Nestes 15-20 minutos que tenho para abrir a nossa conversa, não vou entrar nem na seara dos futurólogos, nem na dos consultores profissionais. Há uma crescente variedade de matérias on-line, lives e até coletâneas que veiculam reflexões gerais, relatos de experiências e conselhos dos gurus da Educação a Distância e da Tecnologia Educacional. O que eu gostaria de fazer é apresentar algumas reflexões para que possamos, na sequência, conversar sobre assuntos pertinentes a este “dia depois de amanhã” que virá quando terminar a quarentena.

Acho que, pelo menos nós na PUC-Rio, já passamos daquele momento inicial de desorientação completa, daquela sensação de que temos que apagar um incêndio colossal: estamos trabalhando on-line há mais de dois meses, e penso que o momento atual é oportuno para trocarmos ideias que podem informar o nosso planejamento, que deverá começar em breve. Pelo que entendi de uma breve troca com a Elisa, essa proposta é consistente com as demandas sugeridas na roda de conversa da semana passada.

Bem, para quem gosta de cinema, parte do título que propus remeterá a cenas de um planeta Terra arrasado por uma catástrofe ambiental. Nesse cenário, ironicamente, um hemisfério Norte congelado encontra sua salvação em um hemisfério Sul. Talvez esteja aí uma representação caricata do que estamos a viver: uma forma de refúgio em práticas de uma modalidade que opera sem que professores e alunos estejam fisicamente juntos e que nem sempre é vista com bons olhos.

Modelo das arcas para a preservação da espécie humana em 2012.

Um outro cenário apocalíptico é o de 2012. Neste filme, o drama também se desenrola a partir de uma crise ambiental; nesse caso, havia um projeto secreto multinacional que construíra embarcações destinadas a preservar o melhor da humanidade quando a tragédia finalmente se concretizasse. Obviamente, não há arcas para todos, mas o filme nada mostra sobre as considerações envolvidas nas “escolhas de Sofia” prévias: simplesmente seguem-se (não sem percalços, obviamente) caminhos já traçados, como se tem discutido agora em relação às escolhas que possivelmente terão que ser feitas (ou que já estão sendo feitas) por profissionais da saúde.

Na docência, não lidamos com escolhas de vida ou morte, então não temos o mesmo tipo de urgência, mas estamos também diante de escolhas, dilemas e paradoxos. São escolhas difíceis, pois, no dia depois do amanhã ainda incerto que será o final desta pandemia, creio, não seremos os mesmos, nem habitaremos o mesmo mundo de antes. Na verdade, meu primeiro pensamento, ao receber a circular de fechamento do campus, foi que não estaríamos todos no mesmo barco, para começar. Em 2012, não havia arcas suficientes para toda a humanidade, e esse parece ser o caso da educação durante a quarentena, infelizmente. E os que são deixados de fora não são apenas os despossuídos, pois uma gama de problemas anteriores parece ter sido exacerbada, incluindo questões de saúde mental, que se somam a outros problemas trazidos pela quarentena.

Emojis de profissões

Para mim, a situação ilumina um aspecto talvez negligenciado de nossa profissão: como formadores, somos também, de algumas formas, cuidadores. Juntos, formamos engenheiros, cientistas, professores e muitos outros profissionais, mas, como ser profissional é uma face importante de ser no mundo, contribuímos fortemente, na realidade, para formar pessoas. Foi pensando assim que as minhas primeiras preocupações diante do que se apresentava em meados de março convergiram em torno da necessidade de encontrarmos formas de permanecermos humanos, dosando as demandas que iríamos impor a nossos alunos e a nós mesmos.

Pois a quarentena acabará, mas o que será, como será, quando será, esses são assuntos já em discussão por colegas bem mais afeitos à futurologia do que eu. Porém, os cenários que eles têm desenhado, em geral, não são particularmente animadores, como não são animadores os cenários de uma educação mercantilizada, uma realidade que mobiliza grandes números de atores e grandes cifras. Nesse contexto, porém, temos problemas cotidianos imediatos e prementes a tratar – “o que fazer nas aulas da semana que vem?” Mantendo uma dose de otimismo, penso como Neil Selwyn, um sociólogo inglês muito conhecido na minha área de pesquisa, que é bastante enfático ao falar sobre a importância das escolhas que os professores fazem agora como contribuições que podem, sim, ajudar a moldar o depois da educação.  

Nas duas últimas semanas, tenho acompanhado as notícias relativas a uma empresa de Educação Superior que, na esteira da implantação (silenciosa) de um sistema de Inteligência Artificial para a correção automática de trabalhos de alunos , despediu mais de uma centena de professores, apenas para abrir novas contratações posteriormente, mas para funções ainda mais precarizadas. Pois discutindo, exatamente, a expansão de sistemas baseados em AI, uma grande preocupação mundo afora, Selwyn enfatiza, como sempre, a necessidade da desconfiança como uma forma inicial de resistência.

Selwyn vem falando, há pelo menos duas décadas, sobre a necessidade de desconfiarmos de certas premissas que têm sido tomadas como verdades na educação contemporânea. Por exemplo, somos constantemente convocados a inovar (ou morrer?), e a inovação na educação toma a forma de uma mudança de centro das ações pedagógicas (do professor para o aluno) e, consequentemente, de método (e fala-se muito de metodologias ativas), bem como de ferramentas (“Usem artefatos digitais!”).  Impera o “solucionismo tecnológico”: a ideia de que artefatos tecnológicos seriam a solução dos problemas e uma educação quebrada.

O proselitismo do novo que caracteriza essa convocação à inovação não é, obviamente, uma peculiaridade da educação, mas temos empresas, grandes e não tão grandes, e seus evangelistas a nos oferecer produtos que irão teoricamente melhorar nossa performance. No cenário que desenham, com frequência, professores figuram como peças imperfeitas e substituíveis. Existimos, cada vez mais fortemente, inclusive nos discursos das políticas públicas, como parte de um maquinário em transformação ou progresso rumo a maiores eficiências.

Nesse contexto, já era grande a minha preocupação com a fragmentação e a desumanização da nossa profissão bem antes de entrarmos na emergência atual. Pois bem, exatamente por força das circunstâncias, tivemos que inovar, e os artefatos digitais têm sido realmente essenciais para podermos continuar a agir e interagir.

Para muitos de nós, essa é a primeira experiência com mídias digitais na educação e com a educação não-presencial. A esta altura, porém, creio que todos já tenhamos feito as pazes com um horizonte sem mudanças no semestre corrente. Crucialmente, não sabemos o que o próximo semestre trará: só sabemos que precisaremos planejá-lo em breve.

Daí, então, surge a pergunta que eu gostaria de propor para a nossa conversa: o que estamos aprendendo com as ações emergenciais que temos conduzido?

A partir dessa questão, proponho três desdobramentos – não quero sugerir nem hierarquização, nem completude nesse conjunto de perguntas; de fato, espero que vocês sugiram outras, mas aqui estão as três para começarmos.  Farei apenas alguns comentários para cada uma, e passaremos à conversa.

1) O que estamos aprendendo sobre as tecnologias digitais que estamos usando?

Os artefatos à nossa disposição modificam profundamente a experiência da socialização e da interação. Por exemplo, o Zoom, que a instituição garantiu para nós, tem sido ótimo, de algumas formas, mas há diferenças significativas em relação à interação presencial (inclusive já há discussões sobre a forma de “exaustão cognitiva” que parece/pode causar). Esse meme reverbera algumas percepções correntes.

Tenho usado a plataforma semanalmente, com o tempo um pouco reduzido, com a minha turma de pós, mas, na graduação, apenas mensalmente, dividindo a turma em grupos  menores (são 34 no total), e o retorno que recebo deles é misto; os comentários menos animadores têm vindo de alunos com problemas de conexão à internet ou que acham que a videoconferência invade a sua privacidade. Eles me contam sobre pequenos atos de “desobediência civil” que me fazem rir, como foi o caso do meme ao lado, mas acho que temos aqui questões muito importantes a serem pensadas.

E-mail e fóruns de Web (os fóruns do Moodle têm esse formato) também podem ser bons em algumas situações; de fato, as mídias assíncronas são a primeira escolha na EaD, que precisa operar a partir de requisitos tecnológicos mínimos para cumprir demandas de inclusão. A pesquisa na área de Comunicação Mediada por Computador (CMC) já vem da década de 1980, e há relatos que defendem ideias como “massa crítica” (número mínimo de participantes para que haja interação) e “teto” (número máximo de participantes para que não haja caos) para considerarmos.

Acho importante esclarecer que, apesar de estarmos nos referindo a “ações emergenciais”, “ensino não-presencial”, “ensino remoto”, enfim, expressões que cuidadosamente omitem a palavra “distância”, é difícil evitarmos a dicotomia presença-distância e as alusões à EaD, como demonstraram os múltiplos memes que circularam no final de março (EaD = “Estresse a Distância”, “Enganação a Distância” etc.). Nesse sentido, acho relevante pensarmos sobre a constituição de diferentes formas de presença e distância no ensino-aprendizagem, pois enormes distâncias podem existir em sala, assim como diferentes modos de presença podem ser construídos por meio de ambientes puramente textuais.

Fazer escolhas aqui significa aprendizagem para nós, pois, para além de termos que vencer questões instrumentais (como fazer o quê), também temos que nos adaptar aos tipos de conversas possíveis por meio das mídias que usamos. E mais: precisamos ensinar os alunos a conversar dentro dessas novas possibilidades (ou restrições). Essas não são questões triviais.

2) O que estamos aprendendo sobre nós mesmos como professores?

Como professores, criamos programas ou planos de disciplinas a partir de ementas integradas em matrizes curriculares. Nossa atuação segue diretrizes e concepções consistentes com as demandas de nossas respectivas áreas. Mas nossa atuação revela mais: nossas ações docentes materializam nossas formas de pensar sobre o que é ensinar, e revelam o que pensamos ser aprender. Em outras palavras, nossas concepções de ensinar e de aprender, com frequência tácitas, estão sempre em jogo e “à mostra”, digamos, em nossas ações.

Permitam-me indicar alguns exemplos que ilustram essas ideias. Em nosso vernáculo docente, falamos de nossos currículos como constituídos de “conteúdos” que “expomos”, “passamos” ou “transmitimos” aos alunos, que aprendem “absorbendo” ou “digerindo” o que lhes oferecemos. Trata-se, aqui, de metáforas muito poderosas, porém, adormecidas, ou seja, não mais pensadas como metáforas, mas que constituem bases sobre as quais construímos muitas de nossas ações. Concretizam-se na aula expositiva mais tradicional, no âmbito da hora-aula em sala, nas baterias de exercícios, nos tipos de atividades ou problemas que propomos aos alunos, enfim, em tudo que fazemos.

No momento, porém, em parte por limitações das próprias mídias que estamos usando, e em parte por questões de ordem prática, tornou-se, para mim, um ponto para reflexão a ideia da hora-aula do presencial compreendida como aquele intervalo de tempo que passamos juntos com nossos alunos em um espaço compartilhado. Quando planejada, a EaD se concentra em estimativas das horas de estudo que o aluno precisará; no presencial, isso nos passa despercebido. Há, por esse motivo, uma preocupação constante em marcar o ritmo desse estudo com um cronograma que preveja a criação de produtos para avaliação continuada. A co-presença pode tomar outras formas (por exemplo, a aula escrita de Holmsberg, a tele aula gravada, tão comum nos MOOC, os “Cursos Online Abertos e Massivos” de grandes instituições internacionais, a aula dramatizada que usa formatos do cinema e da TV, enfim, uma variedade de possibilidades).

A questão aqui não é apenas conhecimento de estratégias didáticas. É claro que um repertório de técnicas variadas, associadas à produção com fins de acompanhamento do progresso dos alunos, pode ser muito útil : Diários de Aprendizagem (ou de bordo), que encorajam a tomada de notas, escrita e reflexão; estudos dirigidos, que indiquem especificidades de textos (ou outros recursos) a serem tratadas; projetos; trabalhos (estruturados em etapas) para pequenos grupos; novidades como Webquests, jogos, etc. A lista é longa e cada área já tem tanto preferências, quanto práticas tradicionais, e não vejo motivo para que elas sejam simplesmente ignoradas e/ou consideradas “antiquadas”, pois, para mim, o cerne da questão não é técnico, mas, sim, conceitual: nossos valores, premissas e crenças. Há questões de poder envolvidas, também, pois operamos em múltiplos contextos – áreas de conhecimento diferentes, níveis diversos de organização da instituição em que nos inserimos, etc. As próprias mídias e políticas veiculam expectativas e “senso comum” sobre a educação. Enfim, para mim, a questão é de valores, premissas e crenças enraizados em história e política.

3) O que estamos aprendendo sobre o nosso público?

Nosso público – os alunos – são nossa razão de ser! Muitos de nós também estamos envolvidos em pesquisa, mas, mesmo na pesquisa, nosso papel como formadores é central. Nesse sentido, uma premissa que talvez tenhamos em comum seja que não queremos “nenhum (aluno) a menos”. Aqui vamos ao encontro da instituição com esforços no sentido de minimizar a evasão, é claro, mas evasão é um problema complexo, e mesmo que nosso papel seja chave, nosso alcance e responsabilidade são limitados.

Na EaD, de forma geral, por mais que os estudantes sejam surpreendidos ao ingressar, por mais dificuldades que tenham, partimos de um acordo tácito básico sobre o modelo de ensino-aprendizagem, uma forma de “contrato”. Esse modelo exige alunos minimamente dispostos a se apropriarem de sua aprendizagem.

Não era esse, porém, o nosso “acordo” no início do ano, sem contar que as expectativas de nossos alunos quanto ao seu próprio papel no processo de aprender variam muito, como variam suas habilidades.

Gostaria de ouvir os relatos de vocês sobre isso. De minha parte, com uma turma de graduação composta principalmente de calouros, ficaram patentes os problemas decorrentes do despreparo em termos de organização, leitura, escrita, enfim, habilidades básicas. As expectativas que trazem sobre o que é aprender são coloridas por suas experiências de escolarização, e a ideia predominante é a de que só se aprende em sala, ouvindo a voz do professor. Dizer-lhes que aprendem também conversando sobre a última aula na padaria da esquina causou completa surpresa.

Meme do bolo de chocolate

Para essa turma, escolhi trabalhar assincronamente, principalmente, por questões de acesso. Ficaram muito claros os problemas de letramento, e a minha tecla predileta tornou-se a “moral” do “Meme do bolo de chocolate”. Usei o meme, mas ainda preciso refletir sobre sua utilidade. A maioria reagiu com risadas, mas continuam a perguntar do que é feito o bolo, alguns “publicamente”, no grupo de trabalho, outros individualmente, por WhatsApp. Crucialmente, por esse meio, fiquei sabendo que se organizam em grupos de apoio separados (exclusivos e exclusivistas), e terminei conhecendo a situação de cada um de uma forma que jamais conheceria presencialmente.

Areias de uma praia em Maui: macro e micro fotografias

Em áreas diferentes, lidamos de formas diferentes com nossas turmas, mas creio que sempre há uma dose de adaptação de nossa perspectiva. Modulamos a distância que mantemos de acordo com as demandas e as possibilidades do momento. Modificamos nossa perspectiva das turmas, seus agrupamentos e seus indivíduos. Como nessas imagens das areias de uma praia em Maui em duas fotos que sempre uso em minhas disciplinas, ajustamos nossa perspectiva do nosso público: de um lado, uma perspectiva macro, distante; de outro, um olhar mais próximo, micro, que revela enorme diversidade.

Agora quero passar a palavra para vocês, mas gostaria de fechar com trechos de um trabalho de aluna que me “resgatou” de uma semana difícil. Em sua escrita reflexiva, disse: “Aulas expositivas podem ser chatas, se forem muitas e longas, mas não dá para aprender nada se o professor não fizer a exposição de ideias novas”, questionando algo que eu havia dito sobre metodologias ativas. Na sequência, ressaltou ser importante que o aluno “esteja sempre aberto e atento”, sugerindo uma compreensão da importância da escuta ativa do aluno, sem deixar de fora o professor. Por fim, disse querer ser uma “professora que consiga fazer a aprendizagem escapar da sala de aula”. Achei uma linda conclusão e um excelente começo.

Algumas notas adicionais

Quero deixar duas recomendações de leitura sobre “presença”: a) “Sobre presença e distância – reflexões filosóficas acerca da formação online“, de Lílian do Valle e Estrella Bohadana; essa é uma versão apresentada em anais da reunião nacional da Anped de 2010, mas outra versão foi posteriormente publicada no livro Educação a Distância: elementos para pensar o ensino-aprendizagem contemporâneo, org. por Daniel Mill (2013); b) “O Facebook na educação: um novo sujeito?“, artigo de coautoria minha com Estrella Bohadana publicado na revista Educação e Cultura Contemporânea. Deixo essa auto-citação porque levei a minha turma de graduação para o Facebook (mas acho que não mencionei isso ontem – só disse que estava trabalhando assincronamente), onde já tive (e vi) experiências de ensino-aprendizagem muito produtivas e interessantes. Em outra ocasião postarei os detalhes da experiência.

Mencionei a questão da privacidade, mas um assunto importantíssimo que não mencionei (e ninguém levantou): questões de direitos autorais. Estou há tempos para buscar orientações sobre o uso de memes (sem autoria?), mas tenho também preocupações relativas aos muitos materiais que estamos produzindo, incluindo vídeos gravados no Zoom (que mostrariam, também, imagens e vozes de alunos, sugerindo outras questões). Já começou a discussão nos EUA, onde muitas instituições oferecem Recursos Educacionais Abertos e MOOC. Aqui, o cenário é diferente, mas acho que precisamos nos mobilizar para compreender melhor o que estaria em jogo.

Por fim, um assunto que mencionei durante a discussão e que acho central ao processo de fechamento do semestre atual: a necessidade de valorizarmos muito (nós, professores) a experiência que estamos tendo e, crucialmente, discutir esse ponto com nossos alunos. Não estamos trabalhando pouco (nem nós, nem nossos alunos!): o que tenho ouvido de colegas é que estamos trabalhando não apenas de formas fundamentalmente diferentes, mas, também, mais. Todos estamos engajados em um processo de aprendizagem que pode ser mais ou menos desestruturante para cada um. Na conversa, um colega mencionou que sente falta do “olho no olho” com os alunos, um sentimento compartilhado entre todos, acredito, mas também creio que essa carência não pode ser o único aspecto a definir a experiência que estamos vivendo. Em meio à incerteza do momento, sinto que precisamos reconhecer e celebrar o que não é incerto e o que não está ausente: a dedicação, o comprometimento e os esforços de todos!

Segundo encontro do projeto *Educação, tecnologia e filosofia: diálogos interdisciplinares*

Image result for futuros imaginários barbrook
Image result for superinteligência nick bostrom

Na sexta-feira 04/10, tivemos o segundo encontro dos grupos Filosofia da Tecnologia, coordenado pelo prof. Edgar Lyra, do Dept. de Filosofia da PUC-RioFormação Docente e Tecnologias, ForTec, coordenado pela profa. Magda Pischetola, do Dept. de Educação da PUC-Rio, e o DEdTec. O encontro é uma das atividades pertinentes ao projeto “Educação, Filosofia e Tecnologia: diálogos interdisciplinares”, que é apoiado pelo Instituto de Estudos Avançados em Humanidades, IEAHu, do Centro de Teologia e Ciências Humanas, CTCH da PUC-Rio. Dessa vez, além do prof. Alexandre Rosado do INES, tivemos também a presença (por pouco tempo, infelizmente) do Prof. Ralph Ings Bannell, nosso colega no Dept. de Educação, e, como no primeiro encontro, Magda se juntou a nós por videoconferência.

Deixo aqui apenas algumas notas apressadas: há muito a pensar e explorar, mas acho útil deixar algum registro compartilhado de, pelo menos, algumas partes.

Ainda estamos em fase de tentar estabelecer aquele território compartilhado sobre o qual comentei aqui, e isso ficou bem claro durante a discussão, que, dessa vez, havia sido planejada para explorar a primeira linha temática que identificamos no primeiro encontro: projeções de futuros imaginados (especulação ou futurologia). Assim, propusemos uma pequena seleção de textos sobre AI (Inteligência Artificial) como leituras preparatórias: um trecho do capítulo 6 de Superinteligência, de Nick Bostrom, e os capítulo 4 e 5 de Futuros Imaginários, de Richard Barbrook.

Richard Barbrook é co-autor (com Andy Cameron, in memoriam) do excelente ensaio A Ideologia Californiana (último capítulo publicado neste livro – tradução para o português acompanhada do original em inglês). O autor é um cientista político baseado na Faculdade de Ciências Sociais e Humanidades da Universidade de Westminster, Inglaterra. Pesquisador e ativista de perspectiva marxista, Barbrook atua também junto ao Partido Trabalhista Britânico como militante e consultor. Seu mais recente projeto, Class Wargames (Jogos de Guerra de Classes), apresenta-se como uma “subversão lúdica contra o capitalismo da espetacularização” baseada nas ideias de Guy Debord.

Nick Bostrom é um filósofo baseado na Universidade de Oxford, onde fundou e dirige o Future of Humanity Institute (FHI). Bostrom lista como interesses “ética, filosofia da mente e anthropics” (a descobrir como traduziram isso para o português). Oxford hospeda o renomado Oxford Internet Institute, que, aliás, publicou recentemente um relatório muito interessante sobre processos maciços de desinformação (veja aqui), no qual o Brasil figura como um dos campos de pesquisa examinados. Bem, eu não conhecia nem o FHI, nem o autor proposto pelo Edgar, então fui dar uma olhada no site institucional.

Passando os olhos rapidamente pela página que lista a equipe do instituto, me veio à mente o filme Jogos do Apocalipse (tradução estranha de The Philosophers ou After the Dark nos US of A, que sempre somem com palavras difíceis dos títulos de filmes e livros, por exemplo, o primeiro da série Harry Potter…). No filme, um professor de filosofia propõe a uma turma de formandos do ensino médio uma atividade de role play em cenário apocalíptico, na qual os jovens precisam escolher um número limitado de pessoas que iriam habitar um abrigo e, assim, permitir que a raça humana não desaparecesse. As escolhas são feitas com base em informações sobre profissão/habilidades, sorteadas pelos alunos a partir de papeizinhos contidos em uma caixa preta. A cada rodada os alunos têm que argumentar de forma lógica em sua defesa e negociar sua escolha com o resto do grupo, mas, apesar disso, quase todas as tentativas terminam com o extermínio total do humano.

O que é interessante é ver como os jovens escolhem, defendem e depois interpretam os diferentes papéis: de eletricista a poeta, cantor de ópera, engenheiros de diferentes especialidades, etc. Mais interessante de tudo é como a vida (fictícia) no abrigo difere e, sobretudo, parece melhor quando os escolhidos (se não me engano, na última rodada) são os artistas (ou um grupo majoritariamente de artistas – não lembro de todos os detalhes, quero rever quando tiver tempo), preteridos em encenações anteriores que haviam privilegiado argumentos de base utilitarista (por exemplo, um técnico eletrônico seria mais importante para manter a coisa funcionando do que um cantor de ópera). Por fim, é nesse último cenário que o grupo consegue sobreviver o ano necessário para a mínima descontaminação do mundo exterior.

Pois, o Instituto do Futuro da Humanidade (e que nome…) de Oxford não parece ter nenhum artista, músico, poeta. Apenas formigas sem nenhuma cigarra?

Enfim, como sempre, I digress

Voltando ao assunto: o encontro…

Precisarei ler o livro do Bostrom inteiro para ter uma ideia melhor, pois a parte selecionada focaliza um “cenário de tomada de poder por uma AI” sem discutir porque o objetivo dessa “criatura” seria “tomar o poder”. Acho isso essencial para entender o que o autor pretende, pois a AI poderia ter qualquer outro objetivo, inclusive nada pensado por humanos – com relação a isso, Bostrom faz questão de ressaltar que, sendo “fortemente inteligente” (grifo meu), a AI não iria pensar “nenhum plano tão idiota que mesmo nós, humanos, sejamos capazes de antever como esse plano poderia falhar inevitavelmente”.

É que “tomada de poder” me parece ser algo tão humano… De fato, a ficção tem transferido esse “desejo” para a máquina repetidamente, criando múltiplos cenários de conflito entre criatura e criador, e o cenário de Bostrom me remeteu a várias obras de ficção na literatura e no cinema (do óbvio O Exterminador do Futuro, a A Matrix, os Borg em Jornada nas Estrelas, The Lawnmower Man – no Brasil, recebeu o estranho título O passageiro do futuro -, Transcendence – no Brasil, título Transcendence – a revolução -, Battlestar Galactica e, como sempre, o seminal Frankenstein). Essas obras podem ser vistas como “tendenciosas” no sentido que sempre há pequenas lacunas e espaços para resistência por parte do humano, de diferentes formas (mesmo que seja a hibridização em vez da aniquilação), e o que Bostrom parece (como disse, preciso ler o livro inteiro) querer fazer é pensar a possibilidade de situações criadas por máquinas que, criadas por outras máquinas, teriam escapado das nossas imperfeições. Dá para entender os elogios de Elon Musk a Bostrom: Musk, que enviou para Marte um carro tripulado por um manequim vestido de astronauta (veja aqui uma leitura crítica)…

Há muito a pensar aqui além da necessidade de discutir o porquê da tomada de poder. Será que a ficção, ainda que marcada pelas limitações da imaginação do humano, em seu apelo estético, nos daria bases mais interessantes para discutir questões relativas à AI? Se realmente há medo e preocupação com essa possível “tomada de poder”, até que ponto discussões especulativas e abstratas podem ajudar? Haveria um papel necessário para a mobilização de conhecimentos mais “técnicos” em discussões sobre a viabilidade dessa super AI? Além das hipérboles, há questões mais básicas de significados não compartilhados de termos fundamentais dessas discussões, começando com a própria ideia de “inteligência” (pontuação que o Ralph fez logo no início). É tão fácil ficar perdido em jogos de linguagem nesse cruzamento de discursos tão díspares…

Sugeri que pegássemos o Futuros Imaginários como contraponto ao Bostrom precisamente porque o autor joga um bom “balde de água fria” nas hipérboles associadas à AI, invariavelmente carentes de especificidades contextuais e, sobretudo, históricas. Esses exageros são um problema nas discussões sobre tecnologia na área da Educação, e, para mim é fundamental questioná-los: acho necessário historicizar.

O livro de Barbrook costura uma narrativa pessoal do autor com a história da tecnologia, e seu argumento central fica bem resumido logo no início (versão preprint, p. 6):

As in the mid-1960s, the invention of artificial intelligence and the advent of the information society are still only a couple of decades away. If the prophecy isn’t fulfilled in this generation, then its realisation must take place in the next one. In a continual loop, belief leads to disappointment and failure inspires conviction. The present is continually changing, but the imaginary future is always the same.

Em tradução livre:

Como em meados da década de 1960, a invenção da inteligência artificial e o advento de uma sociedade da informação estão poucas décadas à frente. Se a profecia não se cumpre em uma geração, então o será na próxima. Em um loop contínuo, crença leva à decepção, e fracasso inspira convicção. O presente está sempre mudando, mas o futuro imaginário é sempre o mesmo.

Como qualquer tomada de posição, o argumento de Barbrook não poderia estar inteiramente livre de escolhas (opiniões), mas, minimamente, trata-se de uma argumentação informada por especificidades históricas que permitem contextualizar os discursos sobre a AI – principalmente da indústria que nela aposta. A descrição de um loop é consistente com as evidências que ele traz de suas fontes, além de ser, é claro, consistente com a perspectiva marxista do autor. Daí, talvez, decorra também um aspecto apontado pelo pessoal do Departamento de Filosofia como um problema: há, sim, indicações no texto de uma visão instrumental da tecnologia. Apesar da perspectiva crítica, Barbrook tende a se posicionar como um otimista (veja aqui seu Manifesto Cibercomunista – em inglês).

Em meio à discussão, muitos assuntos foram mencionados, alguns comentados em mais detalhes, outros de passagem. A questão da agência me parece algo fundamental, bem como as concepções de tecnologia mobilizadas (e foram múltiplas), perspectivas sobre a presença de artefatos na educação (que não se restringe a contextos de Educação a Distância – uma visão de senso comum infelizmente também compartilhada na própria área da Educação), enfim, alguns eixos teóricos basais. Talvez precisemos pensá-los: identificá-los, não “defini-los”.

Creio que precisaremos repensar, também, o formato dos encontros, pois o grupo é bem numeroso e inclui estudantes de vários níveis, formações e expectativas. Em particular, temos alunos de graduação, que estão apenas iniciando sua participação em grupos de pesquisa. Os encontros têm um importante aspecto formativo que precisa de atenção.

Apresentam-se desafios maravilhosos. Continuaremos trabalhando neles.