Na sociedade da informação e do conhecimento assistimos à formação de uma santa aliança entre o protocolo algorítmico e a inteligência artificial e ao nascimento de uma espécie de novo institucionalismo tecno-digital que, se não forem tomadas algumas medidas de prevenção e salvaguarda, podem entrar em rota de colisão com o mundo das artes e da cultura. Ou, dito mais cruamente, à nossa frente está um sério problema de liberdade criativa e, mesmo, de saúde pública e mental. De um lado, a presença, cada vez mais omnipresente, de tecnologias de controlo, vigilância e servidão, do outro, a imaginação, a intuição e a intencionalidade das artes e da cultura, mais descontínuas e disruptivas, e que é necessário abordar com responsabilidade e prontidão. De facto, na respetiva cadeia de valor os dispositivos tecno-digitais assumem uma relevância crescente, não apenas como valor instrumental, mas, sobretudo, como um valor estrutural que determina, cada vez mais, uma boa parte da fileira das artes e da cultura. Frente a frente, olhos nos olhos, está a tecnologia como infraestrutura e dispositivo, mas, também, como instituição de um tipo novo e a cultura, igualmente, como infraestrutura e dispositivo, mas, sobretudo, como liberdade criativa própria do universo de artistas, cientistas, inovadores e cidadãos conscientes e bem informados.
É neste contexto que surgem duas iniciativas recentes fundamentais na União Europeia, a saber, o Regulamento (EU) nº2024/1689 de 13 de junho que é o primeiro quadro jurídico a nível mundial sobre a regulação da inteligência artificial (RIA) e a 12 de novembro de 2025 o lançamento pela Comissão Europeia da Bússola da Cultura sobre a estratégia da política cultural para a União Europeia.
O RIA entra plenamente em vigor em agosto de 2026 e, para o seu funcionamento, estabelece quatro níveis de risco, a saber, o risco inaceitável, o risco elevado, o risco limitado e o risco mínimo. As práticas de risco inaceitável são proibidas desde 2 de fevereiro de 2025 por serem consideradas uma ameaça aos direitos humanos e aos valores da União Europeia. Essas práticas proibidas de IA são as seguintes: manipulação prejudicial e enganadora (1), exploração nociva de vulnerabilidades (2), classificação social (3), avaliação e previsão do risco de infração penal individual (4), recolha de dados não direcionada, para desenvolver bases de dados de reconhecimento facial (5), reconhecimento de emoções (6), categorização biométrica (7), identificação biométrica remota em tempo real (8). Para introduzir maior certeza regulatória, a Comissão Europeia publicou, em 4 de fevereiro de 2025, uma comunicação preliminar sobre as linhas de orientação relativas às práticas de IA proibidas. Embora não vinculativas, estas linhas de orientação visam auxiliar as autoridades designadas como competentes ao abrigo do RIA na execução do referido Regulamento, bem como os fornecedores e operadores de sistemas de IA no cumprimento das obrigações estabelecidas no mesmo. O simples enunciado dos riscos e do catálogo destas oito práticas proibitivas é assustador e remete-nos, imediatamente, para uma enorme carga normativa regulatória, administrativa, disciplinar e penal, e estamos apenas no começo. Para nos darmos conta do imenso campo de aplicação dos sistemas de IA onde estes riscos e eventuais violações podem ocorrer basta enumerar a lista elencada no próprio RIA: os cuidados de saúde, agricultura e segurança alimentar, educação e formação, investigação e desenvolvimento, meios de comunicação social, desporto e cultura, gestão de infraestruturas, energia, transportes e logística, serviços públicos, segurança e justiça, monitorização ambiental e alterações climáticas, preservação e restauro de biodiversidade e ecossistemas.
A IA é uma família de tecnologias em constante evolução que, em função das circunstâncias concretas de aplicação, utilização e nível tecnológico, pode gerar riscos e prejudicar os interesses públicos e os direitos fundamentais protegidos pela legislação europeia. Esses prejuízos podem ser materiais ou imateriais e incluir danos físicos, psicológicos, sociais e económicos. Além disso, uma das características dos sistemas de IA é a sua capacidade de fazer inferências nos resultados – previsões, conteúdos, recomendações e decisões – e na modelação algorítmica a partir da recolha e tratamento de dados. Esta capacidade dos sistemas de IA vai muito para lá do tratamento de dados, permitindo, igualmente, a aprendizagem, a modelização e o raciocínio e, mais importante, a capacidade de operarem, por autoaprendizagem, em diferentes níveis de autonomia face à inteligência humana. Já para não falar dos vieses cognitivos e éticos que o programador e a máquina inteligente introduzem nos seus exercícios de inferência.
O que fica dito, mostra-nos o admirável mundo novo dos sistemas de IA que está mesmo à nossa frente e o seu impacto nas políticas culturais. Depois da imprensa de Gutenberg, da eletricidade e da internet, é, agora, a vez da IA, a eletricidade do século XXI, sob a forma de máquinas inteligentes e criativas que mimetizam, cada vez mais, a criatividade humana. Aos humanos e às várias formas de inteligência humana ficam, agora, reservadas outras qualidades ainda em défice: o desenvolvimento do espírito crítico, a intencionalidade ética e estética, os diferentes níveis de literacia e o seu impacto nas tarefas profissionais, a lucidez das perguntas certas nos momentos adequados, a responsabilidade de buscar a verdade, a sensibilidade de curar o resultado final.
Entretanto, a Comissão Europeia lançou a bússola da cultura em novembro de 2025 e a questão essencial que se levanta imediatamente é a de saber como se vão reconfigurar, doravante, as interfaces entre os sistemas e tecnologias de IA e a política e ação criativa e cultural no âmbito europeu. Usemos, para o efeito, esta analogia. Tal como a fotografia transformou a pintura que virou impressionista, mais expressão do que simples descrição, com a chegada dos sistemas de IA chegará a arte artificial que nos irá impelir a nós, humanos, para outras expressões de manifestação artística e cultural, libertando, assim, a nossa liberdade criativa. Em boa medida, a IA pode, desde já, democratizar a arte e a cultura, ao criar novos dispositivos a partir de antigas pré-existências. É tudo uma questão de limites e dosagem ao alcance da inteligência humana.
Todavia, para lá dos sistemas de IA como auxiliares inteligentes e criativos artificiais, há uma faceta, porventura mais sombria, destes sistemas de IA que podem, inclusive, estabelecer limites e restrições à liberdade criativa e à cultura muito pouco democráticos. Esta faceta mais obscura dos sistemas de IA tem a ver com a natureza do capitalismo de vigilância e a associação mais ou menos perversa entre o protocolo algorítmico e alguns sistemas de IA, justamente, aqueles que são proibidos pelo próprio RIA. E é aqui, justamente, que a relação entre tecnologia, segurança e poder, é mais preocupante nos tempos que correm. Neste contexto, há, claramente, uma relação de causa e efeito entre o RIA e os fins e objetivos da bússola cultural. Para tal, basta mencionar as principais vertentes desta interface: a produção artística e criatividade (1), a operação e otimização das indústrias criativas e culturais (2), a gestão do património cultural (3), a proteção da diversidade cultural e ética (4), as novas experiências para o utilizador, por exemplo, os ambientes imersivos (5). A interface representa uma mudança tecnológica que está a reconfigurar profundamente a forma como concebemos, produzimos, consumimos e preservamos expressões e conteúdos culturais. A IA funciona como uma máquina cultural que gera, cataloga e distribui conteúdos, criando muitas representações e simulacros e influenciando a memória coletiva. Voltaremos ao assunto no segundo artigo.
Artigo publicado no Jornal de Notícias.
Leia também: União Europeia e Portugal, 40 anos depois, a mudança de paradigma | Por António Covas
O Europe Direct Algarve faz parte da Rede de Centros Europe Direct da Comissão Europeia. No Algarve está hospedado na CCDR Algarve – Comissão de Coordenação e Desenvolvimento Regional do Algarve.
CONSULTE! INFORME-SE! PARTICIPE! Somos a A Europa na sua região!
Newsletter * Facebook * Twitter * Instagram
