No futuro, não queremos ser “reféns” da IA!
Com o passar do tempo as pessoas vão adotar gradualmente a IA no seu dia-a-dia, quer a nível pessoal quer profissional. Com o tempo vão aumentando o seu uso, a sua dependência, ao ponto de dizer que será “impossível” viver sem a IA.
A questão que se coloca é simples, que nível de dependência aceitável devemos adotar no uso da IA?
A dependência tecnológica não surge por coerção, mas por conveniência. O percurso que hoje iniciamos com a IA reproduz a mesma curva de adoção do telemóvel ou da internet, primeiro ficamos curiosos, depois vemos a utilidade, e em seguida a integração nos processos diários e, finalmente, a invisibilidade funcional, o momento em que a tecnologia se torna tão estrutural e tão útil que a sua ausência equivale a uma “paralisia” consciente.
Há uma certeza que atravessa toda a história da tecnologia, cada ferramenta que nos liberta de um esforço também nos torna, de alguma forma, dependentes dela. A escrita libertou-nos da memorização, mas Platão temia (não sem razão) que destruísse a capacidade de recordar.
A calculadora libertou-nos do cálculo mental, o GPS libertou-nos da orientação espacial, com o telemóvel perdemos também a capacidade de decorar números de telefone, mas tudo isso é uma perda de baixo risco, não há grande custo cognitivo ou ético nisso.
A IA generativa é, nesta linhagem, apenas o capítulo mais recente, mas talvez o mais profundo, porque não substitui uma competência isolada, toca no próprio ato de pensar criticamente, de escrever, de decidir, de argumentar. Se a “IA-dependência” substituir estas competências em vez de as complementar, a perda é qualitativamente diferente e de maior impacto.
Recusar a IA por completo seria tão pouco razoável como recusar a escrita, a calculadora, o GPS, o telemóvel ou a própria internet. A questão não é evitar a dependência, isso é, em larga escala, inevitável quando uma tecnologia é genuinamente útil. A questão é que tipo de dependência estamos dispostos a aceitar, e onde traçamos a linha entre ferramenta e “muleta”.
Se a IA amplia a inteligência humana, continua a ser uma ferramenta. Se começa a decidir por nós, pensar por nós, escrever por nós e até formar as nossas opiniões, então deixamos de utilizá-la e passamos a ser utilizados por ela.
As organizações são pessoas e as pessoas adoram eficiência… até descobrirem que ninguém dentro da sua própria organização pode não saber fazer o trabalho porque tudo será feito pela IA. O problema nunca aparece quando a tecnologia funciona. O problema aparece quando falha.
Toda a dependência gera uma vulnerabilidade.
Quem controla aquilo de que dependes controla parte da tua liberdade.
No futuro, a vantagem competitiva não será simplesmente “usar IA”., todos usarão, a vantagem estará em conseguir continuar a operar quando a IA estiver indisponível, quando mudar de fornecedor, quando aumentar os preços ou quando determinadas funcionalidades deixarem de existir.
As organizações resilientes terão sempre um princípio simples, automatizar sem perder competência, porque uma competência abandonada deixa de ser um ativo e transforma-se num risco estratégico.
Se amanhã a IA deixar de existir durante uma semana, que atividades deixariam completamente de funcionar?
Quanto maior for essa lista, maior é a dependência. E quanto menor for a capacidade de recuperação, maior é o risco de nos tornarmos, efetivamente, “reféns” da IA.
O pensamento crítico deverá ser o seguinte: Se a IA pode executar uma tarefa; o ser humano não pode perder a capacidade de a compreender, validar e recuperar quando necessário. Para tudo na vida é importante um plano B.
Para as empresas, o risco não é só cognitivo mas estratégico. A dependência de um fornecedor único, a exposição a falhas de sistema, a perda de conhecimento interno (“tribal knowledge”) torna-se uma realidade se os processos ficarem todos automatizados sem conhecimento ou documentação humana paralela.
Uma dependência que se negoceia, não se decreta!
A IA deve ser encarada como uma “prótese cognitiva”* que amplia a capacidade humana, e não como um substituto do pensamento próprio. O nível de dependência aceitável é aquele em que, se desligarmos a tomada, continuaremos a saber quem somos, o que fazemos e como pensar por nós próprios.
Talvez o nível “aceitável” de dependência não seja um número fixo, nem uma linha traçada de uma vez para sempre. É antes algo que se vai negociando continuamente, à medida que os custos reais da dependência, não os hipotéticos, não os alarmistas, se tornam visíveis na prática. A escrita, a calculadora e o GPS foram, no balanço final, trocas que a sociedade considerou positivas. A IA pode seguir o mesmo caminho, mas só se mantivermos a disciplina de perguntar, a cada novo hábito que criamos, se estamos a ganhar tempo ou a perder capacidade.
Um nível de dependência sustentável e seguro não se mede pelo número de horas de utilização, mas pela capacidade de reversibilidade e pelo controlo sobre a decisão final.
*Apliquei este termo a pensar na minha mulher (marcela Roque) que é protésica, achei a analogia interessante ;)