Uma matéria do Nexo Jornal cruzou o meu caminho e me ajudou na reflexão sobre a IA em nossas vidas. Quero partilhar para pensarmos juntes. Em um dos trechos desta entrevista, Giselle Beiguelman sugere que a gente olhe para a IA não como uma simples “ferramenta”, mas como um “dispositivo” – e isso faz toda a diferença.
Ferramenta a gente usa para um fim específico, sem que ela, necessariamente, mude a forma como pensamos ou agimos. Já um dispositivo, como a IA, não só faz coisas, mas também molda nosso jeito de ver, interpretar e interagir com o mundo. Portanto, é um dispositivo de poder.
Separei alguns trechos e também faço um complemento que pode ajudar a compreender melhor estes conceitos.
Boa leitura!
Meus destaques da entrevista no contexto “TECNOLOGIA e ARTE”:
“O maior problema da inteligência artificial são os humanos, são os dados que nós temos. Não é a inteligência em si, não é a tecnologia.”
“Quando as pessoas se inserem no ambiente online, elas estão franqueando seus dados. Elas não leem os contratos das plataformas que elas usam, o Instagram, o Facebook, o YouTube, mas, ao clicar em “ok”, você consente. Isso é muito problemático, já que muitas dessas empresas vão se valer do fato de que esses dados não foram roubados. O problema é que as pessoas não têm consciência disso.”
“A discussão de direitos autorais tem que ser feita hoje contemplando o quadro de como a inteligência artificial funciona, senão nós vamos ser esmagados em qualquer processo.”
“Temos que quebrar essa hierarquia de que só determinadas pessoas privilegiadas por algumas circunstâncias sociohistóricas têm o direito e a possibilidade de fazer [obras com IA]. Qual é o problema de massificar, no melhor sentido, da palavra à criatividade? Qual é o grande drama?”
“Há dinâmicas a serem exploradas. Primeiro, precisamos entender que a IA não é uma ferramenta, é um dispositivo. E, como dispositivo, carrega uma série de modos de ler e operar o mundo.”
Como assim?
(respostas adaptadas do ChatGPT)
A distinção entre ferramenta e dispositivo no contexto da frase citada é conceitual e filosófica, baseada, principalmente, em abordagens como as de Michel Foucault e Giorgio Agamben.
- Por que NÃO “ferramenta”?
Uma ferramenta é um meio técnico utilizado para atingir um fim específico. Ela é neutra no sentido de que pode ser utilizada de diferentes formas dependendo do usuário e do contexto. No caso da IA, se ela fosse apenas uma ferramenta, significaria que poderíamos simplesmente usá-la para tarefas específicas, sem que ela própria influenciasse significativamente a forma como pensamos ou organizamos o mundo.
- Por que SIM “dispositivo”
Já um dispositivo (ou “dispositif”, no conceito de Foucault) não é apenas um instrumento neutro. Ele carrega consigo uma lógica de funcionamento própria, que molda a forma como interagimos com o mundo. Dispositivos organizam discursos, influenciam comportamentos, criam novas relações de poder.
No caso da IA, chamá-la de dispositivo implica reconhecer que ela não é apenas uma ferramenta neutra que podemos controlar totalmente. Ela tem modos específicos de ler e operar o mundo – baseados em dados, algoritmos, vieses e infraestruturas que afetam a forma como produzimos conhecimento, tomamos decisões e até imaginamos o futuro.
Ou seja, enquanto uma ferramenta poderia ser usada sem alterar significativamente nossa forma de pensar, um dispositivo transforma nossas relações sociais, culturais e políticas, pois carrega consigo uma estrutura que influencia como percebemos e interagimos com a realidade.
- Por que é importante (para todos), saber disto?
Saber que a IA é um dispositivo, e não apenas uma ferramenta, é fundamental porque isso nos ajuda a compreender os impactos estruturais e culturais que ela carrega, e não apenas o seu uso técnico imediato. Isso tem implicações em vários níveis:
1. Para não cair na ilusão da neutralidade
Se tratássemos a IA como uma ferramenta neutra, poderíamos acreditar que basta usá-la corretamente para que seus resultados sejam justos, objetivos e isentos de viés. Mas, como dispositivo, a IA já vem carregada com formas específicas de ler o mundo, baseadas em dados que refletem desigualdades, exclusões e perspectivas dominantes. Isso significa que ela não apenas reflete o mundo como ele é, mas ajuda a moldá-lo e reforçar certas visões de realidade.
2. Porque a IA altera nossa forma de criar, pensar e se relacionar
Dispositivos não apenas nos servem, mas também nos transformam. A IA muda a maneira como escrevemos, desenhamos, pensamos e tomamos decisões. Se reconhecemos que ela não é só um instrumento, mas um sistema que reorganiza valores, acessos e linguagens, podemos desenvolver uma postura crítica sobre sua influência e evitar que nos tornemos apenas consumidores passivos.
3. Para questionar quem controla os dispositivos
Se a IA não é apenas uma ferramenta que usamos, mas um dispositivo que orienta e condiciona nossas interações, então quem a desenha, treina e regula tem um poder imenso sobre a sociedade. Empresas e governos que desenvolvem IAs determinam o que é visível, o que é invisível e quais formas de conhecimento e criatividade são priorizadas. Ter consciência disso permite questionar quem está no controle, quem é beneficiado e quem é prejudicado.
4. Para garantir que a IA seja usada de forma mais inclusiva e responsável
Ao entender que a IA carrega formas específicas de interpretar e estruturar o mundo, podemos exigir que ela seja desenvolvida de maneira mais transparente, ética e plural. Se assumimos que ela não é neutra, podemos pressionar por mais diversidade nos dados, mais controle sobre seus impactos e mais autonomia para as comunidades afetadas por suas decisões.
Em resumo…
Se pensamos a IA apenas como ferramenta, corremos o risco de subestimar seu impacto e de usá-la sem reflexão crítica. Mas se a entendemos como dispositivo, percebemos que ela molda nossa cultura, nossos acessos e nossos processos de decisão. Isso nos dá mais consciência para questionar, adaptar e até resistir a determinados usos que reforcem desigualdades ou restrinjam nossa liberdade de pensamento e criação.
Ufa, foi longo.
A leitura valeu a pena? Qual é a sua reflexão sobre o tema? Você já usa o dispositivo em contextos educativos?
Aproveita para ler a entrevista completa!
Nexo Jornal: IA na arte possibilita mudar o imaginário colonialista
Giselle Beiguelman, 27 de janeiro de 2025
Abordagens Artísticas Multidisciplinares - Arte e Novas Mídias 