Uma palavra grávida (cheia de significados diferentes) que precisa marcar presença no dia a dia se queremos sobreviver às novas tecnologias.
É bem provável que você tenha torcido o nariz para o tema de hoje, mas o match entre ética e inteligência artificial tem aparecido com tanta recorrência que vai ser inevitável não nos implicarmos nesse debate.
E a filosofia percorre a história dessa palavrinha. Se voltarmos aos tempos de Aristóteles, o termo "ethos" era usado para descrever os hábitos e costumes que moldam o caráter de uma pessoa e determinam sua conduta moral. Mas porque é tão difícil pararmos para refletir sobre os valores e princípios que orientam nosso comportamento?
Por que isso nos chamou atenção?
Geoffrey Hinton, considerado o pai da inteligência artificial, anunciou sua saída do Google em abril, logo após o boom do Chat GPT. Ele não esclareceu os motivos da sua decisão, mas afirmou que poderia falar com mais tranquilidade sobre questões que o assustam em relação ao futuro da IA.
Entre os principais argumentos, estão: o potencial da IA para produzir inverdades, um possível ganho de uma autonomia que poderia nos fazer perder o controle sobre a mesma e o fato de que as IAs podem ficar mais inteligentes que os humanos. A palestra toda é bem impressionante, mas um ponto chama ainda mais atenção: o fato dele não ter certeza que estaríamos seguros com a IA mesmo se não houvessem pessoas com más intenções no mundo.
Tá, mas então o Elon
Musk e cia tinham razão na dita carta com um tom de parem as máquinas?
Não! Geoffrey Hinton é contundente ao afirmar que não podemos deter o avanço dessa ferramenta, uma vez que ela apresenta utilidade inegável em diversas áreas e já é um novo negócio. No entanto, para ele, se até o presente momento não conseguimos desenvolver um sistema financeiro imune a falhas ou impedir que jovens carreguem armas, como poderíamos resolver esses novos desafios trazidos pelas IAs? É nesse ponto que a ética se torna crucial e emerge como uma disciplina ainda mais indispensável para todos.
"Sendo as IAs mais espertas do que nós, precisamos garantir é que façam coisas que são para o nosso benefício. É um problema de alinhamento. Só que precisamos fazer isso em um mundo onde existem atores mal-intencionados que querem construir robôs que matam pessoas."
Geoffrey Hinton
"Um robô pode transformar uma tela em uma maravilhosa obra de arte?" "Você [humano] consegue?" Eu Robô, Filme de 2004 baseado no livro homônimo de Isaac Asimov.
Para a Fast Company, o futuro da IA será definido no campo de batalha da ética, e como solução, eles apostam que o investimento venha de dentro dos principais players de tecnologia. É preciso construir equipes dedicadas a garantir a segurança dos produtos impulsionados pela IA.
E o design nisso tudo?
Em qualquer lista sobre o futuro do design é possível ler: questões éticas vão aparecer de forma mais frequentes e não somente os designers, mas todos, devem estar mais preparados para isso.
"A ética no design significa que os valores éticos devem ser preservados desde o primeiro momento do desenvolvimento de um sistema de inteligência artificial."
Louis Byrd escreveu um texto incrível sobre como o medo das novas tecnologias esconde, na verdade, o receio de perpetuarmos nossas falhas enquanto sociedade. E é nisso que devemos nos focar, em não repetí-las. Precisamos olhar para dentro e assumir a nossa responsabilidade, afinal "nós somos os arquitetos desse futuro".
A clareza sobre a ética garante que as tecnologias de IA sejam utilizadas de forma responsável, considerando as implicações sociais e legais envolvidas. E isso envolve um olhar global sobre o assunto. No último podcast do The Shift, elas exploram o que significa este olhar completo: a preocupação não deve ser somente com o uso, mas também precisamos desenhar princípios (éticos!) na produção, nas licenças, na reutilização de códigos, na produção intelectual, etc.
"A ética é algo vivo, ela não é do não, mas do por quê. É um espectro. É na ética que aprendemos qual o limite."
Julia Protas
Psicóloga e Doutora em Ciências Médicas
Aqui na No One, praticamente todos nossos projetos são atravessados por aspectos tecnológicos para impulsionar e aprimorar os serviços e produtos dos nossos clientes. Com a explosão da IA para todos os segmentos, é nossa função entender com profundidade os impactos dessas mudanças não só na organizações internamente, mas também na vida e rotina dos nossos usuários. Seja para uma jornada de um paciente ou recomendações inteligentes em um e-commerce, é fundamental avaliarmos não só as possibilidades que a IA nos oferece, mas também seu real impacto social.
Por fim, questionar-se num contexto de trabalho de dia a dia é desafiador, e nos faz encarar dilemas éticos que nem sabíamos que estávamos vivendo. Essa consciência é importante para que desenhemos soluções com intenções e balizadores da experiência (com ou sem inteligência artificial!).
E aí, deu saudades do seu professor de filosofia do ensino médio? Este é o momento para revisitar as aulas, ou o Mundo de Sofia (nunca falha!).
Inscreva-se aqui e receba a One Bite a cada 15 dias!
A One Bite é a nossa newsletter quinzenal.
Nos inspiramos nas porções de degustação - aquelas que trazem uma nova sensação a cada mordida - e escolhemos uma palavra ou um conceito que tem aparecido de forma relevante nas nossas pesquisas, projetos e conversas para compartilhar junto com nosso ponto de vista. A IA dá uma mãozinha criando artes para cada tema, que nos surpreendem sempre. Você pode conferir conferir todas as edições anteriores aqui.
Não nos conhece? Deixa a gente se apresentar!
A No One é uma consultoria de design que entrega produtos digitais, serviços e experiências que redefinem a forma como marcas se conectam com seus clientes e ecossistemas. Para fazer isso de forma realmente relevante, precisamos estar conectados com grandes movimentos e questões que permeiam nosso presente e nosso futuro. Quer acompanhar isso ainda mais de perto? Nos chama pra um projeto Clica aqui ou nos chama em +55 51 9349-1808
