Exposição de motivos

I

Ao longo da história, os avanços tecnológicos aumentaram a eficiência dos médios para produzir, mudaram a forma de consumir e diminuíram barreiras de espaço e tempo. Contudo, nenhum destes avances teve a capacidade transformadora das tecnologias inteligentes em termos do seu potencial para incrementar a competitividade em todas as áreas de desenvolvimento e para contribuir a dar resposta a alguns dos desafios aos que se enfronta a humanidade.

As tecnologias inteligentes estão a mudar a nossa vida quotidiana, a nossa forma de trabalhar, educar e fazer negócios e a nossa forma de viajar, assim como a nossa forma de relacionar-nos.

De acordo com a definição acuñada pelo Grupo independente de peritos de alto nível sobre inteligência artificial da União Europeia, o termo «inteligência artificial» aplica-se a todos aqueles «sistemas que manifestam um comportamento inteligente ao analisar a sua contorna, realizando acções, com verdadeiro grau de autonomia, para atingir um objectivo específico». Estes sistemas podem consistir simplesmente num programa informático –por exemplo, assistentes de voz, programas de análise de imagens, motores de procura, sistemas de reconhecimento facial e de voz– ou bem estar incorporados em dispositivos de hardware –por exemplo, robôs avançados, automóveis autónomos, veículos aéreos não tripulados ou aplicações da internet das coisas–.

A definição de sistema de inteligência artificial» empregada pelas instituições europeias alíñase com a proposta pela Organização para a Cooperação e o Desenvolvimento Económico em maio de 2019, que o define como «um sistema baseado em máquinas que, para objectivos explícitos ou implícitos, infire, a partir da entrada que recebe, como gerar saídas como predições, conteúdos, recomendações ou decisões que podem influir em contornas físicas ou virtuais. Diferentes sistemas de inteligência artificial variam nos seus níveis de autonomia e adaptabilidade depois da implementación».

Ainda que a origem da inteligência artificial se remonta ao ano 1950, hoje em dia vivemos uma das suas épocas de maior auge. A inteligência artificial está presente à indústria desde, ao menos, a década de 1980, ainda que foi durante os últimos anos quando confluíron três elementos, entre outros, que permitiram dar um salto cualitativo do dado comum ao dado inteligente, graças ao rendimento e à aplicabilidade dos métodos de aprendizagem por computador baseados em dados. Em primeiro lugar, a disponibilidade de quantidades inxentes de dados –conhecidos como big data– que são o resultado da actividade humana gerada em plataformas digitais e de processos de digitalização do mundo físico; em segundo lugar, o desenvolvimento de algoritmos de aprendizagem por computador capazes de encontrar patrões de comportamento e dar assim utilidade a estas quantidades de dados; finalmente, o incremento exponencial da capacidade de processamento das computadoras e de armazenamento destas quantidades maciças de dados. A convergência entre supercomputación e inteligência artificial é imprescindível para impulsionar avanços significativos na resolução de problemas complexos e no desenvolvimento de modelos de inteligência mais precisos.

Contudo, não devemos esquecer os reptos e as limitações técnicas, éticas, legais e sociais sobre o uso que se lhe brinde a essa inxente quantidade de dados gerados, apesar de ser este o ponto onde reside a oportunidade de uma transformação digital, não somente real, senão inevitável.

A inteligência artificial pode gerar um amplo leque de benefícios económicos e sociais em todos os sectores e actividades sociais. O seu uso pode proporcionar vantagens competitivas essenciais às empresas e facilitar a obtenção de resultados positivos desde o ponto de vista social e ambiental nos âmbitos da melhora da saúde, a agricultura, a educação e a formação, a administração de infra-estruturas, a energia, o transporte e a logística, os serviços públicos, a segurança, a justiça, a eficiência dos recursos e a energia e a mitigación da mudança climática e a adaptação a ele. Também pode contribuir a melhorar a predição, optimizar as operações e a asignação dos recursos e personalizar as soluções digitais que se encontram à disposição da povoação e das organizações. É, portanto, necessário garantir o seu bom governo com o fim de aproveitar todas as oportunidades que esta tecnologia oferece, ao tempo que se garantem o controlo e a limitação dos riscos derivados de um uso indebido.

Daquela, a Administração pública está na obrigação de aplicar a inteligência artificial para oferecer melhores serviços de conformidade com as necessidades e as demandas da cidadania e das empresas.

II

A crescente dependência de tecnologias e sistemas desenvolvidos fora das fronteiras da União Europeia suscita importantes desafios em termos de soberania tecnológica e digital. A inteligência artificial ocupa um lugar preeminente no marco estratégico e legislativo mundial. Em particular, a Organização para a Cooperação e o Desenvolvimento Económico adoptou uma formulação de Princípios sobre a inteligência artificial» na Recomendação sobre inteligência artificial adoptada pelo Conselho da Organização para a Cooperação e o Desenvolvimento Económico o 22 de maio de 2019, onde estabeleceu o a respeito do Estado de direito, os direitos humanos, os valores democráticos e a diversidade através do cumprimento dos princípios de transparência, divulgação responsável, robustez, fiabilidade e segurança durante todo o ciclo de vida dos sistemas de inteligência artificial.

Por sua parte, ao longo dos últimos anos, Europa promoveu um enfoque centrado no fortalecimento das suas capacidades tecnológicas internas, impulsionando uma inteligência artificial segura, ética e centrada nos direitos fundamentais. Para isso, a União Europeia adoptou uma formulação coordenada com o objectivo de aproveitar ao máximo as oportunidades que brindan as tecnologias inteligentes, fixando-se um objectivo claro: incrementar o investimento em mais de 20.000 milhões de euros anuais durante a próxima década. A pandemia da covid-19 provocou que a Comissão Europeia reforçasse e organizasse a sua aposta inteligência artificial, outorgando um lugar privilegiado como uma das suas prioridades 2019-2024 a «uma Europa adaptada à era digital», assim como a recentemente aprovada folha de «O bússola digital da Europa».

Em janeiro de 2020, a Resolução do Parlamento Europeu sobre um marco de aspectos éticos da inteligência artificial, a robótica e as tecnologias relacionadas recomenda expressamente que a Comissão proponha medidas legislativas para explorar as oportunidades e os benefícios da inteligência artificial e também para garantir a protecção dos princípios éticos.

Também, em novembro de 2021 publica-se a Recomendação da Unesco sobre a ética da inteligência artificial pelos 193 estados membros como uma reflexão normativa sistemática, baseada num marco integral, global, multicultural e evolutivo de valores, princípios e acções interdependentes, que pode guiar as sociedades à hora de enfrentar de maneira responsável os efeitos conhecidos e desconhecidos das tecnologias de inteligência artificial nos seres humanos, nas sociedades e no meio ambiente e os ecosistemas, e oferece-lhes uma base para aceitar ou rejeitar as tecnologias de inteligência artificial.

Assim, a Comissão Europeia publica em abril de 2021 uma proposta de regulamento para enfrentar o repto de gerir a inteligência artificial sem que os direitos da cidadania, assim como os valores europeus, se vejam menoscabados. O objectivo é estabelecer um marco legal uniforme para o desenvolvimento, a comercialização e o uso da inteligência artificial, em linha com os valores da União Europeia.

Esta proposta foi aprovada pelo Parlamento Europeu em março de 2024, convertendo-se na primeira regulação em inteligência artificial do mundo, de conformidade com os valores da União consagrados no artigo 2 do Tratado de funcionamento da União Europeia e os direitos e liberdades fundamentais consagrados nos tratados e de conformidade com o artigo 6 da Carta de direitos fundamentais da União Europeia. O 12 de julho de 2024 publicou-se no Diário Oficial da União Europeia o supracitado regulamento, o Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, pelo que se estabelecem normas harmonizadas em matéria de inteligência artificial e pelo que se modificam os regulamentos (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 e (UE) 2019/2144, e as directivas 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828 (Regulamento de inteligência artificial). Em particular, estabelece umas normas comuns para os sistemas de inteligência artificial de alto risco com o objecto de garantir um nível elevado e coherente de protecção dos interesses públicos no que respeita à saúde, à segurança e aos direitos fundamentais. Também deve ter em conta a Declaração europeia sobre os direitos e princípios digitais para a década digital e as Directrizes éticas para uma inteligência artificial fiável do Grupo independente de peritos de alto nível sobre inteligência artificial.

Além disso, o Conselho da Europa adoptou em maio de 2024 o Convénio marco sobre inteligência artificial e direitos humanos, democracia e Estado de direito, que proporciona um marco jurídico comum a nível mundial para aplicar as obrigações jurídicas internacionais e nacionais existentes que são aplicável na esfera dos direitos humanos, a democracia e o Estado de direito e os seus objectivos, com o fim de garantir que as actividades dentro do ciclo de vida dos sistemas de inteligência artificial por parte de actores públicos e privados cumpram com estas obrigações, standard e compromissos.

III

No caso da Comunidade Autónoma da Galiza, esta conta com uma trajectória destacable no desenvolvimento e despregamento de tecnologias inteligentes. Galiza foi pioneira na aprovação da Estratégia galega de inteligência artificial 2030, aprovada pelo Conselho da Xunta na sua sessão de 10 de junho de 2021, com um investimento de mais de 330 milhões de euros públicos da Xunta de Galicia no período 2021-2030, que gerará um impacto na criação de riqueza de uns 472 milhões de euros nesse período. Esta estratégia prevê um investimento per cápita em inteligência artificial superior à média da União Europeia.

Galiza conta com um ecosistema de inteligência artificial fortalecido por volta de três fases de geração de valor. Na primeira fase de ideación destacam, ademais das três universidades públicas da Galiza, que dão o Grau em Inteligência Artificial e o Mestrado Interuniversitario em Inteligência Artificial, os centros tecnológicos e os centros de investigação. Na fase de oferta, Galiza possui um potencial significativo para desempenhar um rol protagonista no desenvolvimento de inteligência artificial, não se limitando unicamente à adopção de tecnologias de outras regiões, senão gerando conhecimento e soluções tecnológicas próprias. Esta capacidade de criar tecnologia avançada não só reforça a competitividade da Galiza na economia digital, senão que também assegura a sua autonomia tecnológica, fomentando o crescimento sustentável e a criação de emprego qualificado. Ademais, Galiza conta com uma infra-estrutura de computação de altas prestações de referência: o Centro de Supercomputación da Galiza, como agente fundamental no impulso da investigação e a inovação no âmbito da inteligência artificial, consolidando-se como um laboratório natural para a integração da supercomputación no desenvolvimento da inteligência artificial, factor-chave para atingir avanços significativos na resolução de reptos complexos e no aperfeiçoamento de modelos de inteligência artificial. Isto contribuirá, de forma determinante, ao impulso da investigação e da inovação em inteligência artificial, facilitando o avanço de projectos tanto cientistas como empresariais, ademais de dar apoio às empresas no desenvolvimento de casos de uso e na formação de modelos, pondo os seus recursos ao serviço de soluções inovadoras e do progresso tecnológico relacionadas com o desenvolvimento desta tecnologia. No que diz respeito à fase de demanda, na Galiza está-se a experimentar um crescente investimento em inteligência artificial por parte dos âmbitos públicos, assim como por parte da indústria e dos serviços. De facto, de acordo com dados recentes do Instituto Nacional de Estatística, na Galiza 10,2 por cento das empresas de dez ou mais pessoas trabalhadoras com sede e/ou actividade nesta comunidade empregam inteligência artificial, superando em 1,9 pontos percentuais a média estatal. No caso das microempresas, o emprego da inteligência artificial alcança 7,6 por cento das empresas e supera também a média estatal em 4,1 pontos percentuais.

Esta proposta responde à Recomendação sobre inteligência artificial adoptada pelo Conselho da Organização para a Cooperação e o Desenvolvimento Económico o 22 de maio de 2019, na que se estabelece que os governos devem desenvolver uma contorna de políticas que facilite o caminho para a adopção de sistemas de inteligência artificial fiáveis, capacitar as pessoas com competências em inteligência artificial e apoiar as pessoas trabalhadoras com miras a assegurar uma transição equitativa. Além disso, estabelece o fomento de ecosistema de inteligência artificial acessíveis com tecnologias e infra-estrutura digitais e mecanismos para o intercambiar de dados e conhecimentos. Assenta-se também no informe «Governando com inteligência artificial», publicado pela Organização para a Cooperação e o Desenvolvimento Económico o 13 de junho de 2024, no que se afirma que a aplicação de normativas em todas as instituições do sector público pode ajudar a promover o desenvolvimento de enfoques baseados no risco recolhido no Regulamento de inteligência artificial.

A proposta recolhe as conclusões e recomendações emitidas por um grupo de pessoas experto do âmbito universitário da Galiza no «Estudo sobre o marco ético e normativo e o potencial impacto da inteligência artificial na Galiza», apresentado em março de 2023, onde se expõe que «há margem para que os estados da União Europeia e as comunidades autónomas reforcem os objectivos da Lei de inteligência artificial da União Europeia (AI Act), mesmo desde antes da sua entrada em vigor». Neste sentido, «a Comunidade Autónoma poderia regular já a utilização das tecnologias baseadas em inteligência artificial pelo próprio sector público autonómico e, se é o caso, pelas entidades locais galegas, no exercício das suas competências de autoorganización (artigos 27.1 e 28.2 do Estatuto de autonomia da Galiza) e sobre o regime local (artigo 27.2 do Estatuto). Para isso, poder-se-iam modificar a Lei 4/2019, de 17 de julho, de administração digital da Galiza, e, se é o caso, a Lei 5/1997, de 22 de julho, de Administração local da Galiza, com o fim de introduzir os princípios que devem reger a implantação das tecnologias baseadas na inteligência artificial tanto no sector público autonómico como no local. Além disso, as competências da Comunidade Autónoma de desenvolvimento legislativo e execução em matéria de contratos e concessões administrativas (artigo 28.2 do Estatuto de autonomia) permitiriam introduzir as especificações gerais exixibles a toda a aplicação, produto ou serviço baseado em inteligência artificial que as administrações públicas adquiram do sector privado, respeitando em todo o caso as regras de carácter básico sobre o estabelecimento de prescrições técnicas que recolhem o artigo 126 e seguintes da Lei 9/2017, de 8 de novembro, de contratos do sector público. Do mesmo modo, a Comunidade Autónoma também poderia desenvolver uma política própria de fomento do desenvolvimento das tecnologias baseada na inteligência artificial na Galiza, sobre a base das suas competências estatutárias em matéria de fomento da actividade económica. E, na medida em que a actividade de fomento permite à Administração orientar os fins de interesse geral aos que se deve dirigir a actuação privada beneficiária daquela, as medidas autonómicas de impulso do desenvolvimento das tecnologias baseadas na inteligência artificial ter-se-iam que condicionar ao cumprimento por estas tecnologias dos standard éticos que, na falta de um marco regulador, são geralmente admitidos na actualidade».

Também responde, além disso, aos pedidos explícitas do Parlamento da Galiza, que solicitou à Xunta de Galicia, no mês de abril de 2023, o impulso das actuações necessárias para que a Administração geral da Comunidade Autónoma da Galiza e o seu sector público adoptem, como marco de actuação, o estabelecido pelo Regulamento europeu de inteligência artificial, previamente à sua entrada em vigor, prevista para o ano 2024, assim como o desenvolvimento da normativa necessária para a aplicação da inteligência artificial na Administração autonómica. O Parlamento da Galiza também levou a cabo importantes acções no âmbito da inteligência artificial, como a Declaração institucional do Parlamento da Galiza em favor de uma inteligência artificial ética e centrada no ser humano, assinada em junho de 2022.

Também responde à oportunidade que supõe a localização da Agência Espanhola de Supervisão de Inteligência Artificial na Corunha. O Regulamento europeu de inteligência artificial estabelece as «autoridades nacionais de supervisão» que se encarreguem de supervisionar a aplicação e a execução do disposto no mencionado regulamento, assim como de coordenar as actividades encomendadas aos supracitados estados membros, actuar como o ponto de contacto único para a Comissão e representar o estado membro em questão ante o Comité Europeu de Inteligência Artificial. Esta agência, criada pelo Real decreto 729/2023, de 22 de agosto, pelo que se aprova o Estatuto da Agência Espanhola de Supervisão de Inteligência Artificial, é a primeira agência deste tipo que se creia em Europa.

Responde, além disso, ao compromisso para a legislatura 2024-2028 de desenvolver a normativa necessária para facilitar a adopção de tecnologias digitais de alto impacto, tanto no sector público como nos diferentes sectores económicos, através de mecanismos que favoreçam a atracção de investimentos e talento digital, garantindo que a incorporação de tecnologias disruptivas se leve a cabo baixo os critérios éticos e de segurança.

Por último, responde às recomendações emitidas pelo Conselho da Europa no Convénio marco sobre inteligência artificial e direitos humanos, democracia e Estado de direito, adoptado em maio de 2024, no relativo aos princípios relacionados com as actividades dentro do ciclo de vida dos sistemas de inteligência artificial.

IV

Atendendo ao Regulamento pelo que se estabelecem as normas harmonizadas em matéria de inteligência artificial, recolhe-se que o seu fundamento jurídico consiste no artigo 114 do Tratado de funcionamento da União Europeia, que permite ao Parlamento adoptar medidas apropriadas para estabelecer o funcionamento do comprado comum. Com isto pretende-se avançar para uma regulação europeia sólida para conseguir uma inteligência artificial fiável, que garanta a igualdade, proteja as pessoas e fomente a competitividade industrial.

No plano normativo estatal, a aprovação durante os últimos anos de leis que prevêem dar resposta aos reptos que implicam esta grande mudança e a demanda de segurança jurídica no desenvolvimento e exercício dos direitos da cidadania é notável. Em matéria de procedimento administrativo comum e regime jurídico do sector público, a Lei 39/2015, de 1 de outubro, do procedimento administrativo comum das administrações públicas, e a Lei 40/2015, de 1 de outubro, do regime jurídico do sector público, introduzem com carácter transversal o emprego dos meios electrónicos nas relações entre a Administração e a cidadania. A tecnologia também impacta notavelmente na protecção de dados de carácter pessoal; assim, o regulador europeu introduz o Regulamento (UE) 2016/679, relativo à protecção das pessoas físicas no que respeita ao tratamento de dados pessoais. No referente à ciberseguridade, o Real decreto 311/2022, de 3 de maio, pelo que se regula o Esquema nacional de segurança, estabelece os princípios básicos e requisitos mínimos que aplicam a aqueles sistemas de informação de entidades públicas, garantindo uma adequada segurança da informação tratada. No referente à inovação em matéria de inteligência artificial, o Real decreto 817/2023, de 8 de novembro, que estabelece uma contorna controlada de provas para o ensaio do cumprimento da proposta de regulamento do Parlamento Europeu e do Conselho pela que se estabelecem normas harmonizadas em matéria de inteligência artificial, estabelece espaços de provas para ensaiar o cumprimento de verdadeiros requisitos por parte de alguns sistemas de inteligência artificial que possam supor riscos para a segurança, a saúde e os direitos fundamentais das pessoas.

No marco da Estratégia Espanha digital 2026 e com o objectivo de liderar o desenvolvimento e a integração da inteligência artificial na sociedade e na economia espanhola, aprovou-se a Estratégia nacional de inteligência artificial. Aliñado com esta estratégia, elaborou-se a Carta de direitos digitais, que recolhe no seu apartado XXV a base dos direitos das pessoas ante a inteligência artificial, em virtude de garantir a não discriminação, transparência e supervisão humana nas decisões tomadas por tecnologias inteligentes. Em linha com isso, aprovou-se a Lei 15/2022, de 12 de julho, integral para a igualdade de trato e a não discriminação, que regula o uso de algoritmos na tomada de decisões por parte das administrações públicas e obrigação a implementar medidas que minimizem nesgos e garantam a rendição de contas, buscando assim um uso ético e responsável da inteligência artificial para fomentar a confiança na tecnologia, assim como garantir o estabelecido no artigo 41.2 da Lei 40/2015, de 1 de outubro.

No âmbito autonómico, os alicerces da regulação do desenvolvimento da inteligência artificial na Galiza já contam com um corpo legal, integrado pela Lei 16/2010, de 17 de dezembro, de organização e funcionamento da Administração geral o do sector público autonómico da Galiza, reguladora da organização e do regime jurídico da Administração geral da Comunidade Autónoma da Galiza e das entidades instrumentais integrantes do sector público autonómico; pela Lei 14/2013, de 26 de dezembro, de racionalização do sector público autonómico, que promoveu a optimização dos recursos públicos, a eficácia na gestão e o sucesso da máxima coordinação dos diferentes órgãos e unidades administrativas como princípios básicos que guiam a actuação do sector público autonómico; pela Lei 1/2015, de 1 de abril, de garantia da qualidade dos serviços públicos e da boa administração, que consagra legalmente o direito da cidadania à boa administração e a que se lhe prestem uns serviços públicos de qualidade, assim como a participar na avaliação da qualidade dos serviços públicos, como parte imprescindível do ciclo das políticas públicas; e pela Lei 4/2019, de 17 de julho, de administração digital da Galiza.

Mais recentemente, a Lei 7/2022, de 27 de dezembro, de medidas fiscais e administrativas, recolhe no artigo 52 uma nova disposição adicional na Lei 5/2013, de 30 de maio, de fomento da investigação e da inovação da Galiza, pela que a Administração autonómica, no seu âmbito de competências, poderá estabelecer bancos de provas regulatorias que permitam a execução de projectos piloto de I+D+i conforme um marco normativo e administrativo adequado para garantir o a respeito da legalidade e à competitividade internacional.

Portanto, resulta chave dotar o ordenamento jurídico autonómico de uma regulação única, coherente, actualizada e ordenada, contando com uma lei que sistematice num único corpo toda a regulação relativa ao desenvolvimento e uso da inteligência artificial na Administração geral da Comunidade Autónoma da Galiza e no seu sector público.

V

Pelo que atinge ao fundamento competencial, esta lei dita no exercício das competências autonómicas exclusivas em matéria de organização das instituições de autogoverno e em matéria de procedimentos administrativos que derivem do específico direito galego ou da organização própria dos poderes públicos galegos, assim como da competência autonómica de desenvolvimento legislativo e execução da legislação do Estado em matéria de regime jurídico da Administração pública da Galiza, recolhidas, respectivamente, no artigo 27, apartados 1 e 5, e no artigo 28.1 do Estatuto de autonomia da Galiza. Junto a estes títulos competenciais, também procede invocar, atendidas as previsões em matéria de emprego público e de contratação contidas na lei, as competências autonómicas de desenvolvimento legislativo e execução da legislação do Estado em matéria de regime estatutário dos seus funcionários e em matéria de contratos, previstas no artigo 28, apartados 1 e 2, do Estatuto de autonomia da Galiza.

Por todo o exposto, o processo de desenho, desenvolvimento, implementación e uso de sistemas de inteligência artificial tem que dispor de uma norma, com a legitimidade que só confire o Parlamento, que ofereça instrumentos suficientes e ajeitado que permitam um desenho e desenvolvimento sustentável e um uso seguro. Esta tarefa é abordada com o respaldo de um estado de opinião colectivo: o convencimento de que Galiza pode e deve assumir o papel de liderança que lhe corresponde na conformación de uma «Galiza inteligente» através da ordenação e gestão de uma das tecnologias que marcará o futuro da humanidade: a inteligência artificial.

VI

Esta lei estrutúrase num título preliminar e cinco títulos, uma disposição adicional, uma disposição transitoria e três disposições derradeiro.

O título preliminar recolhe as disposições gerais, referidas ao objecto, ao âmbito de aplicação e aos fins da lei e aos princípios para uma gestão responsável da inteligência artificial, assim como aos direitos da cidadania.

Esta lei define pela primeira vez os princípios gerais que devem reger a actuação da Administração autonómica no desenho, desenvolvimento, implementación e uso da inteligência artificial. Estes princípios estão em plena conexão com as ideias já transferidas por organismos multilaterais como a Organização para a Cooperação e o Desenvolvimento Económico, a Comissão Europeia ou o Conselho da Europa, que animavam os governos a desenvolver uma contorna de políticas que faça possível a adopção de sistemas de inteligência artificial de um modo fiável e seguro. Também o estão com os princípios e obrigações recolhidos no Regulamento de inteligência artificial, não supondo requisitos adicionais para os sistemas de alto risco aos já previstos na norma comunitária.

Como princípios para uma gestão responsável da inteligência artificial, enúncianse os princípios de boa administração digital e diligência devida; de auditabilidade, rastrexabilidade e explicabilidade; de transparência; de claridade; de imparcialidade e de ausência de nesgos; de segurança e privacidade; de reserva de humanidade e de revisão humana; de proactividade e personalización; de universalidade e acessibilidade; de fiabilidade e responsabilidade; de avaliação do impacto organizativo, económico, social e meio ambiental; de avaliação contínua; de precaução; de formação contínua; de colaboração e transferência; e de capacidade técnica, proporcionalidade e suficiencia financeira.

Como direitos da cidadania, enúncianse os direitos de transparência e supervisão humana, os direitos de igualdade e os direitos de tutela.

O título I regula a organização administrativa e os sujeitos interveniente nos processos de desenho, aquisição, implementación e uso da inteligência artificial e o planeamento para o impulsiono e desenvolvimento da inteligência artificial na Galiza; os órgãos promotores funcional e os responsáveis tecnológicos; a coordinação, através da criação do Escritório de Inteligência Artificial e o apoio da Comissão estratégica para o asesoramento estratégico em inteligência artificial, quando o nível de risco, o impacto e a sua complexidade assim o requeiram; o Conselho Galego de Inteligência Artificial, no máximo órgão colexiado de participação, consulta e asesoramento em matéria de inteligência artificial; e a essencial participação dos centros de investigação, o tecido empresarial, os colégios profissionais e a sociedade civil no desenvolvimento ético e seguro da inteligência artificial.

No relativo ao planeamento, a lei articula um sistema em cadoiro que toma como ponto de partida a procura de um impulso e desenvolvimento da inteligência artificial ordenado, tanto no âmbito público como no âmbito privado. Assim, regula-se a Estratégia galega de inteligência artificial, com a finalidade de estabelecer os objectivos gerais e particulares que se pretendem atingir no âmbito da inteligência artificial na Galiza num período temporário definido, assim como a coordinação da participação da Comunidade Autónoma da Galiza nos programas e estratégias nacionais e internacionais, o fomento da inovação e do desenvolvimento tecnológico e da sua gestão e a medição e avaliação dos resultados obtidos em relação com os objectivos propostos.

Regulam-se os programas sectoriais de inteligência artificial propostos pelas conselharias competente por razão da matéria. O sistema de planeamento em cadoiro fecha com a regulação dos projectos de inteligência artificial que definirão para a sua execução as características essenciais de um sistema de inteligência artificial e o estabelecimento das características e especificações técnicas do sistema de inteligência artificial, assim como o plano de gestão de dados, ou a quantificação dos meios humanos, económicos e materiais necessários para a sua posta em marcha.

Este planeamento completará a que até agora vinha levando-se a cabo através da Estratégia galega de inteligência artificial e de outros instrumentos recolhidos na legislação sectorial, que serão revistos para se adaptarem a esta nova regulação.

O título II regula os instrumentos para a gestão dos sistemas de inteligência artificial e as fórmulas para garantir a colaboração entre administrações públicas e destas com o sector privado.

O Inventário de sistemas de inteligência artificial será o elemento central da gestão e reflectirá todo o ciclo de vida dos sistemas de inteligência artificial, desde o seu desenho até a sua desactivação.

A lei estabelece uma nova figura: as pessoas comisionadas de inteligência artificial, que velarão pelo cumprimento dos princípios e obrigações em matéria de prevenção, detecção e eliminação de riscos e de resultados negativos da implementación de sistemas de inteligência artificial, constituindo estes um elemento crucial no mecanismo de governo interno da Administração autonómica, no seu rol de provedor e responsável pelo despregamento de sistemas de inteligência artificial.

No relativo à cooperação interadministrativo e à colaboração público-privada, estabelece-se uma constante comunicação e colaboração com o Escritório de Inteligência Artificial na União Europeia, com a Agência Espanhola de Supervisão da Inteligência Artificial e com outros organismos análogos, nacionais ou internacionais, com o objectivo de intercambiar conhecimentos e experiências no campo da regulação e supervisão da inteligência artificial no âmbito das suas competências.

Regula-se também o repositorio de sistemas de inteligência artificial, pelo que a Administração autonómica põe à disposição das demais administrações os sistemas de inteligência desenvolvidos ou adquiridos, com o objectivo de fomentar a reutilização destes sistemas e promover a eficiência nas administrações públicas.

O título III, relativo ao procedimento para a definição e a posta em marcha de projectos de inteligência artificial na Administração geral da Comunidade Autónoma da Galiza e no seu sector público, recolhe algumas das novidades mais destacáveis da lei.

Regula-se o relatório do projecto de inteligência artificial como elemento nuclear do procedimento e estabelece-se o seu conteúdo mínimo: uma identificação das necessidades funcional que devem ser cobertas e uma identificação da necessidade e oportunidade de desenhar ou adquirir, implementar e empregar concretos sistemas de inteligência artificial; e a relação de características e especificações técnicas e o conjunto de dados proposto para o treino, a validação e a prova, especificando se este contém uma combinação de dados pessoais e não pessoais, assim como um plano para a sua gestão. É preciso salientar que inclui uma avaliação de impacto relativa aos direitos fundamentais, de acordo com o modelo facilitado pelo Escritório Europeu de Inteligência Artificial, consonte a normativa vigente de aplicação.

O título IV, relativo ao uso de sistemas de inteligência artificial, recolhe algumas novidades que estão em sintonia com as iniciativas que se estão a promover desde as instituições europeias e que têm por missão facilitar a adopção e o uso dos sistemas de inteligência artificial por parte das instituições públicas. Deste modo, assegura-se a posta à disposição da Administração geral da Comunidade Autónoma da Galiza e do seu sector público de guias para o uso de sistemas de inteligência artificial e as supracitadas ferramentas de autodiagnose.

Por último, sobre a base das competências estatutárias em matéria de fomento da actividade económica, a inteligência artificial requer uma política própria de fomento do seu desenvolvimento. Por isso, considerar-se-á que os projectos cuja actividade tenha relação directa com a inteligência artificial pertencem a um sector estratégico aliñado com os objectivos da União Europeia. Do mesmo modo, considerar-se-á o sector da inteligência artificial como de especial importância, para os efeitos da valoração da concorrência das circunstâncias previstas no artigo 75.1.a) da Lei 3/2022, de 18 de outubro, de áreas empresariais da Galiza.

Assim, o título V da lei recolhe as medidas para o impulsiono da inteligência artificial na Galiza, desde o ponto de vista energético; de impulso empresarial, emprendemento e investimento; de fiscalidade; em matéria de I+D+i; e de apoio à formação, à capacitação e ao emprego.

Reconhece-se o uso da inteligência artificial para facilitar a consecução de impactos socioeconómicos positivos no território e contribuir a alcançar os objectivos de descarbonización e neutralidade climática fixados nos planos, programas e estratégias de transição elaborados pela União Europeia, a Administração geral do Estado e a própria Administração autonómica.

Em primeiro lugar, estabelece-se um conjunto de medidas inovadoras para a promoção do ecosistema empresarial de inteligência artificial, com a criação de um sistema de vigilância tecnológica em inteligência artificial para as empresas em colaboração com os European Digital Innovation Hubs estratégicos.

Em segundo lugar, estabelece-se um conjunto de medidas para o fomento do investimento em soluções de inteligência artificial, como a criação de programas de incubação, aceleração e consolidação de start-ups em inteligência artificial e deep tech e a criação de um fundo de participação em empresas que desenvolvam na Galiza sistemas de inteligência artificial.

Em terceiro lugar, estabelecem-se as medidas de fomento da investigação e inovação no âmbito da inteligência artificial e recolhem-se algumas das novidades mais destacáveis da lei. Impulsionam-se indústrias de inteligência artificial, ao todo sintonia com as recomendações da Comissão Europeia nesta matéria, que contarão com o Centro de Supercomputación da Galiza como actor nuclear para dinamizar o ecosistema de inteligência artificial da Galiza, facilitando o acesso às empresas emergentes, assim como a todos os agentes do ecosistema de inteligência artificial que necessitem desenvolver, treinar e validar sistemas de inteligência artificial. Além disso, estabelece-se um espaço controlado de provas para o tecido investigador e empresarial.

Por último, recolhem-se diferentes medidas destinadas a promover a alfabetização em matéria de inteligência artificial, tanto para os empregados públicos como para a cidadania no seu conjunto, o que contribui ao objectivo da Comissão Europeia de assegurar que as pessoas involucradas no desenvolvimento e uso da inteligência artificial estejam devidamente capacitadas, promovendo assim um uso responsável e ético desta tecnologia.

A lei remata com uma disposição adicional, uma disposição transitoria e três disposições derradeiro.

VII

Esta lei ajusta aos princípios de boa regulação previstos no artigo 37.a) da Lei 14/2013, de 26 de dezembro, de racionalização do sector público autonómico, no que se exixir que «em todas as iniciativas normativas justificar-se-á a adequação destas aos princípios de necessidade, proporcionalidade, segurança jurídica, transparência, acessibilidade, simplicidade e eficácia».

Desta maneira, o princípio de necessidade desta iniciativa legislativa vem determinado porquanto as medidas propostas unicamente podem ser introduzidas mediante uma norma com categoria de lei, por afectar matérias que estão reservadas a este tipo de norma.

Respeita-se o princípio de proporcionalidade, dado que para conseguir os objectivos da lei se realiza um esforço de simplificação e integração da normativa vigente.

Presta-se especial atenção à efectividade do princípio de segurança jurídica, directamente conectado com a integração coherente da nova norma no ordenamento jurídico vigente, de maneira que o resultado seja um marco normativo estável, claro, integrado e de certeza; e ao princípio de transparência, promovendo a mais ampla participação da cidadania em geral e, em particular, dos operadores técnicos e jurídicos implicados na matéria, tanto na elaboração da própria lei como na fase de planeamento, e sem dano dos procedimentos de participação que possam estar previstos noutras normas, assim como ao princípio de acessibilidade, garantindo o acesso a toda a informação de que disponha a Administração na matéria objecto de regulação.

Finalmente, em virtude dos princípios de simplicidade e eficácia, e dentro do objectivo de simplificação administrativa e da normativa de aplicação, evitam-se os ónus administrativos innecesarias ou accesorias, o que supõe a racionalização dos recursos públicos associados à tramitação dos procedimentos administrativos relacionados com elas.

Na tramitação do anteprojecto de lei observaram-se todas as garantias exixir pela legislação vigente em matéria de participação pública, promovendo uma participação pública real e efectiva ao longo de todo o procedimento de tramitação.

Por todo o exposto, o Parlamento da Galiza aprovou e eu, de conformidade com o artigo 13.2 do Estatuto de Autonomia da Galiza e com o artigo 24 da Lei 1/1983, de 22 de fevereiro, de normas reguladoras da Junta e da sua Presidência, promulgo, em nome do rei, a Lei para o desenvolvimento e impulso da inteligência artificial na Galiza.

TÍTULO PRELIMINAR

CAPÍTULO I

Disposições gerais

Artigo 1. Objecto

1. Esta lei tem por objecto estabelecer o marco para o desenho, a aquisição, a implementación e o uso da inteligência artificial na Administração geral da Comunidade Autónoma da Galiza e no seu sector público de conformidade com a regulação da União Europeia e com a normativa básica estatal nesta matéria, das quais constitui o seu desenvolvimento e execução na Comunidade Autónoma da Galiza.

2. Para estes efeitos, a lei regula o regime jurídico do uso da inteligência artificial pelo sector público galego no desenvolvimento da sua actividade e nas suas relações com a cidadania, empresas, entidades e demais administrações públicas, promovendo a adopção de uma inteligência artificial centrada no ser humano, segura, fiável, com um alto nível de protecção da saúde e dos direitos fundamentais e respeitosa com o meio ambiente.

3. Além disso, a lei tem por objecto impulsionar o desenvolvimento da inteligência artificial no tecido empresarial e no ecosistema de investigação e inovação da Comunidade Autónoma da Galiza, com o fim de melhorar a sua produtividade e competitividade.

Artigo 2. Finalidade

Os fins desta lei são os seguintes:

a) Fixar as bases da gobernanza e planeamento dos sistemas de inteligência artificial pela Administração geral da Comunidade Autónoma da Galiza e no seu sector público, prestando uma especial atenção à promoção da qualidade na ordenação e no uso dos supracitados sistemas.

b) Estabelecer os princípios gerais reitores do desenho, aquisição, implementación e uso de sistemas de inteligência artificial pela Administração geral da Comunidade Autónoma da Galiza e no seu sector público, dentro do marco regulador da União Europeia e da normativa básica estatal aplicável. Em particular:

1º. Garantir que os supracitados sistemas sejam fiáveis e respeitosos com os direitos fundamentais da cidadania e outorgar uma ajeitada protecção a esta nos processos e procedimentos administrativos nos que se empreguem tais sistemas.

2º. Garantir a incorporação ao funcionamento da Administração geral da Comunidade Autónoma da Galiza e no seu sector público de sistemas de inteligência artificial que promovam a eficácia e a eficiência na tramitação dos procedimentos administrativos e na prestação dos serviços públicos, para um melhor serviço à cidadania.

c) Estabelecer o marco essencial das medidas destinadas a apoiar e impulsionar o desenvolvimento de tecnologias e sistemas de inteligência artificial inovadores e de alta qualidade na Galiza, promovendo a comunidade autónoma como um lugar idóneo para o investimento empresarial e o desenvolvimento industrial no sector da inteligência artificial.

d) Promover e facilitar a elaboração de guias ou códigos de conduta de aplicação voluntária para os sistemas de inteligência artificial que não sejam de alto risco, consonte os requisitos exixir pela União Europeia e a demais normativa de aplicação.

e) Impulsionar a implantação e o uso de sistemas de inteligência artificial seguros, eficientes e de qualidade nas empresas galegas, em particular nas pequenas e médias empresas, incluídas as de nova criação, promovendo a sua melhora competitiva.

f) Implantar medidas de capacitação no sector público e privado, para os efeitos de incrementar os conhecimentos em inteligência artificial tanto da povoação em geral como dos operadores especializados no sector público e privado, mediante acções formativas abertas ao público em geral, nos diferentes níveis educativos e na formação contínua.

g) Garantir o uso normal da língua galega nos processos de desenvolvimento de sistemas de inteligência artificial e modelos de inteligência artificial de uso geral e potenciar o desenvolvimento de sistemas de inteligência artificial e modelos de inteligência artificial de uso geral em galego.

Artigo 3. Âmbito de aplicação

1. As disposições contidas nesta lei serão aplicável a:

a) O sector público autonómico, integrado, de conformidade com o artigo 3 da Lei 16/2010, de 17 de dezembro, de ordenação e funcionamento da Administração geral e do sector público autonómico da Galiza, pela Administração geral e pelas entidades instrumentais.

b) A cidadania e os operadores de sistemas de inteligência artificial nas suas relações com a Administração geral e o sector público autonómico da Galiza.

Para estes efeitos, as referências à cidadania neste apartado compreenderão as pessoas físicas, as pessoas jurídicas e, quando legalmente tenham reconhecida capacidade de obrar ante as administrações públicas, se é o caso, os grupos de afectados, as uniões e entidades sem personalidade jurídica e os patrimónios independentes ou autónomos.

c) Nos casos em que assim se indique expressamente, as relações entre o sector público autonómico e as restantes administrações públicas, dentro do âmbito territorial da Comunidade Autónoma da Galiza, com pleno a respeito da competências destas.

2. Esta lei não se aplicará aos sistemas de inteligência artificial ou modelos de inteligência artificial de uso geral, incluídos os seus resultados de saídas, desenvolvidos e postos em serviço especificamente com o único fim da investigação e do desenvolvimento científico pela Administração geral da Comunidade Autónoma da Galiza e pelo seu sector público, sem prejuízo da aplicação do estabelecido no capítulo II do título V.

Artigo 4. Definições

Para efeitos desta lei, perceber-se-á por:

a) Sistema de inteligência artificial: sistema baseado numa máquina desenhado para funcionar com diferentes níveis de autonomia e que pode mostrar capacidade de adaptação trás o seu despregamento e que, para objectivos explícitos ou implícitos, infire, a partir da entrada que recebe, como gerar resultados de saídas tais como predições, conteúdos, recomendações ou decisões que podem influir em contornas físicas ou virtuais, de acordo com o estabelecido no Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, pelo que se estabelecem normas harmonizadas em matéria de inteligência artificial.

b) Modelo de inteligência artificial de uso geral: um modelo de inteligência artificial, também um treinado com um grande volume de dados utilizando autosupervisión a grande escala, que apresenta um grau considerável de generalidade e é capaz de realizar de maneira competente uma grande variedade de tarefas diferentes, independentemente da forma em que o modelo se introduza no comprado, e que pode integrar-se em diversos sistemas ou aplicações posteriores, excepto os modelos de inteligência artificial que se utilizam para actividades de investigação, desenvolvimento ou criação de protótipos antes da sua introdução no comprado, de acordo com o estabelecido no Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho.

c) Operador: um provedor, fabricante de produto, responsável pelo despregamento, representante autorizado, importador ou distribuidor, de acordo com o estabelecido no Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho.

d) Projecto de inteligência artificial: iniciativa que tem por objecto resolver problemas definidos de maneira clara e objectiva através do desenho, aquisição, implementación, uso ou melhora de sistemas ou modelos de inteligência artificial de uso geral, orientados a cobrir necessidades funcional específicas. Este projecto deverá estar aliñado com as estratégias e programas sectoriais aplicável à inteligência artificial.

e) Ciclo de vida do sistema de inteligência artificial: série de etapas consecutivas e interrelacionadas que têm como finalidade o desenho, a implementación, a manutenção e a desactivação, se é o caso, de um sistema de inteligência artificial.

f) Funcionamento de um sistema de inteligência artificial: a capacidade de um sistema de inteligência artificial para alcançar a sua finalidade prevista.

g) Dados de treino: dados utilizados para treinar um sistema de inteligência artificial mediante o ajuste dos seus parâmetros objecto de aprendizagem.

h) Dados de validação: dados utilizados para proporcionar uma avaliação do sistema de inteligência artificial treinado e para ajustar os seus parâmetros não susceptíveis de ser aprendidos e o seu processo de aprendizagem, com o fim, entre outras coisas, de evitar a adaptação insuficiente ou excessiva.

i) Dados de prova: os dados utilizados para proporcionar uma avaliação independente do sistema de inteligência artificial com o fim de confirmar o funcionamento previsto do supracitado sistema antes da introdução no comprado ou posta em serviço.

j) Desactivação de um sistema de inteligência artificial: qualquer medida destinada a impedir que um sistema de inteligência artificial seja utilizado.

k) Risco: a combinação da probabilidade de que se produza um dano e a gravidade desse dão-no.

l) Dados pessoais: os dados pessoais definidos no artigo 4, ponto 1, do Regulamento (UE) 2016/679, de 27 de abril.

m) Dados não pessoais: dados diferentes dos dados pessoais definidos no artigo 4, ponto 1, do Regulamento (UE) 2016/679, de 27 de abril.

n) Actuação administrativa automatizado: qualquer acto ou actuação realizada integramente através de meios electrónicos por uma administração pública no marco de um procedimento administrativo e na que não intervenha de forma directa pessoal empregado público, de conformidade com o estabelecido no artigo 41 da Lei 40/2015, de 1 de outubro, do regime jurídico do sector público.

ñ) Actuação administrativa semiautomatizada: aquela actuação para que o sistema de informação que pode ser produzido por algoritmos gere uma previsão, recomendação ou rascunho total ou parcial e que pode constituir fundamento ou apoio a um acto de um empregado público ou órgão administrativo.

o) Indústria de inteligência artificial: ecosistema aberto formado arredor de um supercomputador público no que conflúen recursos humanos e materiais essenciais para o desenvolvimento de modelos e aplicações de inteligência artificial. Entre estes recursos encontrar-se-ão os supercomputadores para inteligência artificial, os centros de dados associados adjacentes ou conectados através de redes de alta velocidade e o capital humano para utilizar estes recursos de maneira eficaz, constituído tanto por pessoas experto em supercomputación como especialistas em dados, investigadores e investigadoras, empresas emergentes e utentes e utentes finais.

CAPÍTULO II

Princípios gerais

Artigo 5. Princípios para uma gestão responsável da inteligência artificial

1. Para a consecução dos fins enumerar nesta lei, a Administração geral da Comunidade Autónoma da Galiza e o seu sector público adecuarán a sua actuação e funcionamento, quando desenhem, adquiram, implementen ou empreguem sistemas de inteligência artificial, aos princípios gerais recolhidos neste capítulo, assim como aos demais princípios e obrigações exixir na correspondente normativa européia e estatal que lhes resulte aplicável.

2. Em particular, no suposto de sistemas de inteligência artificial de alto risco e modelos de inteligência artificial de uso geral serão aplicável os princípios e requisitos recolhidos no Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, pelo que se estabelecem normas harmonizadas em matéria de inteligência artificial.

Artigo 6. Boa administração digital e diligência devida

1. O desenho, a aquisição, a implementación e o uso de sistemas de inteligência artificial por parte da Administração geral da Comunidade Autónoma da Galiza e do seu sector público fá-se-ão com pleno a respeito da boa administração, assim como aos princípios e direitos previstos nesta lei e na normativa aplicável.

2. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público deverão ser capazes de facilitar uma motivação compreensível das decisões propostas ou adoptadas nos procedimentos administrativos nos que se empreguem sistemas de inteligência artificial, recolhendo, no mínimo, o marco jurídico de referência, os critérios aplicados, os dados empregues e as características do próprio sistema de inteligência artificial.

3. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público deverão ser capazes de identificar, rastrexar e gerir de forma activa os riscos relacionados com o desenho e implementación dos sistemas de inteligência artificial, com a participação, se é o caso, de todos os agentes públicos e privados.

Artigo 7. Auditabilidade, rastrexabilidade e explicabilidade

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público adoptarão as medidas necessárias para que os sistemas de inteligência artificial que desenhem ou empreguem possam ser revistos em qualquer momento do seu ciclo de vida, com o fim de comprovar o ajuste ao estabelecido nesta lei e na normativa aplicável.

2. Além disso, a Administração autonómica desenhará e empregará sistemas de inteligência artificial, cujas decisões deverão ser rastrexables.

3. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público deverão desenhar e empregar sistemas de inteligência artificial que, de forma apropriada para o contexto e acorde com o estado da tecnologia, possam proporcionar informação singela e fácil de perceber sobre as fontes de dados/entradas, factores, processos e/ou lógica que levaram à predição, conteúdo, recomendação ou decisão, para permitir aos afectados por um sistema de inteligência artificial compreender o resultado. Além disso, deverão proporcionar informação que permita a aqueles afectados negativamente por um sistema de inteligência artificial questionar o seu resultado.

Artigo 8. Transparência

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público deverão oferecer no Portal de Transparência e Governo Aberto a informação pertinente sobre a arquitectura e o funcionamento dos sistemas de inteligência artificial que desenvolvam ou empreguem na sua actividade, sem prejuízo das limitações previstas no artigo 14 da Lei 19/2013, de 9 de dezembro, de transparência, acesso à informação pública e bom governo, e no artigo 25 da Lei 1/2016, de 18 de janeiro, de transparência e bom governo.

2. Em particular, deverão indicar os procedimentos administrativos nos que se empregam, especificando os dados que utilizam, os parâmetros de funcionamento e precisão, o nível de risco e o impacto dos seus resultados nos supracitados procedimentos, em especial se são ou não directamente decisorios deles.

3. Cuidar-se-á, especialmente, que esta informação seja facilmente acessível para pessoas menores, maiores e grupos vulneráveis.

Artigo 9. Claridade

1. A informação publicado em virtude do princípio de transparência, ou notificada como consequência do direito de acesso à informação, será facilitada numa linguagem clara que permita que todas as pessoas, independentemente das suas capacidades ou da sua situação socioeconómica, compreendam o procedimento no que intervém um sistema de inteligência artificial e os seus resultados.

2. Para o efectivo cumprimento do disposto no ponto anterior, recorrerá ao uso de expressões concisas e claras, ao emprego de estruturas linguísticas efectivas e iconas estandarizadas e ao bom desenho dos documentos.

Artigo 10. Imparcialidade e ausência de nesgos

Nos processos de desenho, aquisição, implementación e uso de sistemas de inteligência artificial adoptar-se-ão as garantias necessárias para os efeitos de mitigar qualquer resultado discriminatorio ou qualquer tipo de nesgo.

Artigo 11. Segurança e privacidade

1. Nos processos de desenho, aquisição, implementación e uso de sistemas de inteligência por parte da Administração geral da Comunidade Autónoma da Galiza e do seu sector público dever-se-á garantir que estes assegurem a integridade, confidencialidade, disponibilidade e autenticidade dos dados e da informação tratada mediante o estabelecimento das oportunas medidas de segurança, exixir na normativa aplicável e nos protocolos internos de actuação, que garantam, ademais, que estes sistemas sejam seguros e resilientes face a terceiros que tentem explorar as suas vulnerabilidades.

2. Os dados pessoais serão tratados consonte o disposto no Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, e na Lei orgânica 3/2018, de 5 de dezembro, de protecção de dados pessoais e garantia dos direitos digitais, assim como na restante normativa de aplicação, garantindo a segurança e privacidade desde o desenho e por defeito e a aplicação dos princípios reitores do tratamento de dados pessoais. Em particular, dever-se-ão ter em conta no tratamento dos dados os princípios de licitude, transparência, lealdade, limitação da finalidade, minimización dos dados, exactidão, segurança, limitação do prazo de conservação e responsabilidade proactiva.

3. Tudo isto perceber-se-á sem prejuízo da necessidade de observar e proteger os direitos de propriedade intelectual e industrial, a informação empresarial confidencial e os segredos comerciais, de conformidade com a normativa européia e estatal que lhe resulte aplicável.

Artigo 12. Reserva de humanidade e de revisão humana

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público poderão empregar sistemas de inteligência artificial tanto na sua actividade material ou técnica como na adopção de actos administrativos formalizados, tanto de trâmite como resolutório, de acordo com o assinalado neste artigo e de conformidade com o estabelecido na normativa européia e estatal de aplicação.

2. No caso de uso de sistemas de inteligência artificial que sirvam de apoio ou fundamento para a adopção de actos ou decisões administrativas, adoptar-se-ão as garantias necessárias para os efeitos de mitigar quaisquer nesgo por parte do órgão competente resolutório. Em nenhum caso tais actuações nas que se empreguem sistemas de inteligência artificial constituirão de seu decisões ou actos administrativos sem validação pela pessoa titular do órgão competente.

3. Nos supostos de uso de sistemas de inteligência artificial que sirvam para a adopção de actos administrativos formalizados, tanto de trâmite como resolutório, de modo automatizar sem intervenção humana directa, de acordo com o estabelecido no artigo 76 de Lei 4/2019, de 17 de julho, deverá tratar-se de actos administrativos que não requeiram de uma valoração subjectiva das circunstâncias concorrentes ou de uma interpretação jurídica.

4. No caso contrário, não poderão realizar-se actuações administrativas automatizar através do uso de sistemas de inteligência, excepto que se cumpram todos os requisitos seguintes:

a) O órgão competente da actuação administrativa automatizado aprovará previamente, e serão incorporadas na resolução conjunta à que se refere o artigo 76.4 da Lei 4/2019, de 17 de julho, as instruções administrativas que permitam concretizar os requisitos necessários para definir de forma detalhada e inequívoca os casos ordinários aos que resulte aplicável.

b) O órgão competente em matéria de tecnologias da informação e da comunicação, inovação e desenvolvimento tecnológico preparará o desenho tecnológico do sistema de inteligência artificial no que se baseará a actuação administrativa automatizado, que respeite a norma correspondente reguladora do procedimento e as instruções administrativas indicadas no apartado anterior, que não permita a alteração não supervisionada do funcionamento do sistema ou modelo e que proporcione informação singela e fácil de perceber sobre o seu funcionamento para permitir aos afectados compreender e questionar o resultado.

5. Na regulação dos procedimentos administrativos para a adopção de decisões administrativas automatizado nas que se empreguem sistemas de inteligência artificial prever-se-ão o momento, o modo e o alcance da intervenção de pessoas físicas para garantir o cumprimento dos princípios e direitos recolhidos nesta lei.

Em todo o caso, nos casos nos que as decisões, previsões ou recomendações geradas por sistemas de inteligência artificial tenham um impacto irreversível ou de difícil reversión, ou impliquem actuações que possam gerar riscos para a vinda ou a integridade física ou psicosocial dos indivíduos, será necessária uma validação de uma pessoa física no processo decisorio, assim como uma decisão humana final.

6. Sem prejuízo dos correspondentes recursos administrativos ou acções judiciais, reconhecer-se-á o direito a apresentar sugestões ou queixas relativas ao funcionamento dos próprios sistemas de inteligência artificial empregados pela Administração autonómica e pelo seu sector público. O procedimento ou canal para a apresentação destas sugestões ou queixas será o previsto no artigo 16 da Lei 1/2015, de 1 de abril, de garantia da qualidade dos serviços públicos e de boa administração.

Artigo 13. Proactividade e personalización

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público poderão desenhar procedimentos geridos através de sistemas de inteligência artificial no exercício das suas funções e competências para satisfazer as necessidades das pessoas sem necessidade de que estas formulem uma solicitude prévia, o que se realizará de acordo com o assinalado no artigo 25 da Lei 4/2019, de 17 de julho, em relação com os serviços proactivos personalizados que pode prestar a Administração autonómica.

2. Além disso, procurar-se-á que o desenho de tais procedimentos permita oferecer à cidadania prestações e serviços de forma individualizada, atendendo às características pessoais, sociais e económicas de cada pessoa, sempre que se apliquem as medidas adequadas para a protecção dos direitos, liberdades e interesses legítimos das pessoas destinatarias.

Artigo 14. Universalidade e acessibilidade

A Administração geral da Comunidade Autónoma da Galiza e o seu sector público assegurarão que o desenho, a aquisição, a implementación e o uso dos sistemas de inteligência artificial cumprem com os mais altos standard de acessibilidade e de desenho para todos os utentes que, de serem destinados a ter interactuacións com a cidadania, sejam acessíveis a todas as pessoas, independentemente das suas circunstâncias pessoais e socioeconómicas, estabelecendo as medidas oportunas para superar as fendas digitais, em especial as determinadas por razões económicas, de idade e de deficiência.

Artigo 15. Fiabilidade e responsabilidade

1. Todos os sistemas de inteligência artificial empregados pela Administração geral da Comunidade Autónoma da Galiza e pelo seu sector público deverão contar com as devidas garantias que assegurem a mais alta probabilidade do seu bom funcionamento.

2. Os danos causados pelos sistemas de inteligência artificial desenhados ou empregados pela Administração geral da Comunidade Autónoma da Galiza e pelo seu sector público, independentemente do seu grau de autonomia, deverão ser reparados integramente por ela, de acordo com o estabelecido na Lei 40/2015, de 1 de outubro, e na Lei 39/2015, do 1 do outubro. O disposto anteriormente perceber-se-á sem prejuízo da possibilidade de reclamar, se é o caso, aos provedores de tais sistemas. Em todo o caso, nestas questões haverá que aterse à normativa européia que resulte aplicável.

Artigo 16. Avaliação do impacto organizativo, económico, social e meio ambiental

1. Sem prejuízo da correspondente avaliação de impacto relativa a direitos fundamentais para os sistemas de inteligência artificial de alto risco, de acordo com o disposto no Regulamento (UE) 2024/1689, de 13 de junho, ou, se é o caso, a relativa à protecção de dados de acordo com o Regulamento (UE) 2016/679, de 27 de abril, a Administração autonómica estabelecerá processos dirigidos a avaliar os possíveis riscos associados aos sistemas de inteligência artificial que a própria Administração autonómica pretenda desenhar ou empregar.

2. A finalidade de tais avaliações de impacto será determinar, com a anticipação suficiente, quais são os potenciais riscos que pode implicar a implantação de um concreto sistema de inteligência artificial em relação com a sua efectividade, segurança, uso de recursos e custos económicos e impacto organizativo, social e ambiental, assim como os mecanismos de mitigación ou compensação dos seus efeitos.

3. As avaliações de impacto classificarão os riscos em função da sua gravidade e probabilidade e proporão medidas adequadas para mitigar, atenuar ou compensar aqueles, de conformidade com os princípios de capacidade técnica, proporcionalidade e suficiencia financeira.

Artigo 17. Avaliação contínua

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público deverão realizar avaliações de forma contínua dos sistemas de inteligência artificial que empreguem em resposta a mudanças normativas, sociais e tecnológicos e aos conhecimentos adquiridos no despregamento dos supracitados sistemas para assegurar a sua qualidade e que as pessoas afectadas recebam um trato justo e não discriminatorio, de conformidade com a normativa aplicável.

2. Além disso, avaliar-se-á que esses sistemas empreguem energias renováveis como fonte de energia, sejam eficientes no seu consumo e empreguem, sempre que seja possível, recursos de origem sustentável.

Artigo 18. Precaução

Em caso que uma avaliação de impacto indique que o uso de um determinado sistema de inteligência artificial puder causar danos de muito difícil reparação às pessoas, à sociedade ou ao meio ambiente, deverá valorar-se o abandono do uso desse sistema. Com esta finalidade, ponderarase se as vantagens da sua utilização ou as desvantaxes da sua não utilização são ou não superiores aos eventuais danos que possa ocasionar.

Artigo 19. Formação contínua

A Administração geral da Comunidade Autónoma da Galiza e o seu sector público velarão porque o pessoal empregado público que intervém ao longo do ciclo de vida dos sistemas de inteligência artificial mantenha as capacidades precisas para que possa garantir um devido uso destes.

Artigo 20. Colaboração e transferência

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público promoverão mecanismos de colaboração público-pública e público-privada para o desenvolvimento de ferramentas, tecnologias e serviços baseados em sistemas de inteligência artificial.

2. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público velarão porque os conhecimentos, técnicos, éticos e normativos, sobre sistemas de inteligência artificial gerados sejam adequadamente transferidos à sociedade.

Artigo 21. Capacidade técnica, proporcionalidade e suficiencia financeira

As obrigações estabelecidas nesta lei para a Administração geral da Comunidade Autónoma da Galiza e o seu sector público serão interpretadas de forma razoável à luz das soluções tecnológicas existentes relacionadas com a inteligência artificial, do estado actual da técnica geralmente reconhecido e das disponibilidades orçamentais para o cumprimento delas.

CAPÍTULO III

Direitos da cidadania

Artigo 22. Os direitos da cidadania

Os processos de desenho, aquisição, implementación e uso de sistemas de inteligência artificial desenvolvidos pela Administração geral da Comunidade Autónoma da Galiza e pelo seu sector público respeitarão todos os direitos reconhecidos ou atribuídos à cidadania nesta lei e na demais normativa européia e estatal de aplicação.

Artigo 23. Transparência e supervisão humana

1. Toda a pessoa na que na sua relação com a Administração geral da Comunidade Autónoma da Galiza e com o seu sector público intervenham sistemas de inteligência artificial terá direito a:

a) Receber a devida informação, clara e compreensível, com a possibilidade do uso de iconas ou símbolos facilmente recoñecibles, sobre:

1º. O carácter automatizar das interacções e das decisões, em particular a saber se está a interactuar com um sistema de inteligência artificial.

2º. A configuração geral do sistema, tipos de decisões, recomendações ou predições que se pretendem fazer e as consequências do seu uso para as pessoas afectadas.

3º. A racionalidade e a lógica do sistema de inteligência artificial ou modelo de inteligência artificial de uso geral.

4º. A identificação da titularidade do sistema de inteligência artificial ou modelo de inteligência artificial de uso geral.

5º. O grau de contributo ou participação do sistema de inteligência artificial e do pessoal empregado público no processo de tomada de decisão, predição ou recomendação.

6.º As categorias de dados pessoais utilizados pelos sistemas de inteligência artificial e a sua origem ou fontes.

7.º As medidas de segurança, de não discriminação e de fiabilidade adoptadas.

8º. O modo de exercitar o direito à transparência e supervisão humana, assim como outros direitos que a assistam.

b) Receber uma explicação da decisão tomada pelo sistema de inteligência artificial. As pessoas afectadas por tais decisões poderão requerer uma explicação com a informação devida a respeito dos factores, critérios e procedimentos que incidam nas supracitadas decisões, previsões ou recomendações, em particular sobre a ponderação dos critérios para a adopção da decisão se é o caso particular, o nível de intervenção humana na adopção da decisão que a afecta e os mecanismos por meio dos que pode reclamar contra a decisão adoptada.

c) Requerer a intervenção de uma pessoa empregada pública no processo de adopção de uma decisão por parte de um sistema de inteligência artificial, quando esta produza efeitos jurídicos ou impacte significativamente de modo similar nos seus interesses.

2. Em todo o caso, ter-se-ão em conta os direitos que na matéria de transparência se recolhem no artigo 50 do Regulamento (UE) 2024/1689, de 13 de junho.

Artigo 24. Igualdade

Toda a pessoa na que na sua relação com a Administração geral da Comunidade Autónoma da Galiza e com o seu sector público intervenha um sistema de inteligência artificial terá direito a:

a) Que em nenhum caso as limitações técnicas ou orçamentais possam implicar a imposição de condições nem requisitos que tenham como efeito directo ou indirecto alguma discriminação.

b) Uma interacção com o sistema de inteligência artificial que garanta os princípios de universalidade, acessibilidade, asequibilidade e qualidade, velando pela defesa e não discriminação daqueles colectivos que necessitem uma especial protecção por se encontrarem em situação ou risco de exclusão.

c) Obter um tratamento justo e isonómico, não ser discriminada pelos resultados oferecidos pelo sistema de inteligência artificial e obter a correcção de nesgos discriminatorios, directos ou indirectos.

Artigo 25. Tutela

1. Toda a pessoa na que na sua relação com a Administração geral da Comunidade Autónoma da Galiza e com o seu sector público intervenha um sistema de inteligência artificial terá direito a:

a) Fazer valer todos os direitos em matéria de protecção de dados pessoais que lhe reconhece a legislação vigente face à decisões, previsões ou recomendações efectuadas pelo sistema de inteligência artificial ou face ao próprio funcionamento deste.

b) Solicitar a revisão de decisões, previsões ou recomendações efectuadas pelo sistema de inteligência artificial que produzam efeitos jurídicos ou que impacten significativamente de modo similar, não só de actos decisorios senão também de actuações materiais. A supracitada solicitude poder-se-á fundar nas deficiências técnicas, como o uso de sistemas ou métodos imprecisos ou não confiáveis, na arbitrariedade das suas premisas ou dos resultados, no carácter discriminatorio das suas premisas ou dos resultados ou em qualquer outra que conculque princípios como o princípio da boa fé.

2. Além disso, ter-se-á em conta o disposto na secção 4 do capítulo IX do Regulamento (UE) 2024/1689, relativo às vias de recurso.

Artigo 26. Exercício dos direitos

A exixencia do cumprimento dos princípios reitores e dos direitos previstos nesta lei poderá ser efectuada individualmente ou de modo colectivo por associações representativas de interesses supraindividuais.

TÍTULO I

Gobernanza e planeamento

CAPÍTULO I

Gobernanza

Artigo 27. Os órgãos promotores funcional e responsáveis tecnológicos

1. As conselharias e as entidades instrumentais do sector público autonómico identificarão os órgãos promotores funcional, dentro da sua estrutura, que se encarregarão da definição funcional e do seguimento dos projectos de inteligência artificial.

2. As pessoas titulares de tais órgãos desempenharão as seguintes funções:

a) Identificar as necessidades funcional no exercício das suas funções e competências.

b) Definir, de forma clara e objectiva, as necessidades que se pretendem cobrir ou os problemas que se pretendem solucionar, em particular fixando objectivos específicos para atingí-los.

c) Elaborar o relatório do projecto de inteligência artificial, em colaboração com o órgão responsável tecnológico.

d) Realizar o seguimento funcional do projecto de inteligência artificial e comunicar ao responsável tecnológico qualquer incidência dele.

3. A entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico designará os órgãos responsáveis tecnológicos para cada conselharia ou entidade instrumental que coordenarão junto com os órgãos promotores funcional todos os projectos de inteligência artificial.

4. As pessoas titulares de tais órgãos responsáveis tecnológicos desempenharão as seguintes funções:

a) Identificar a necessidade e oportunidade de implantar sistemas de inteligência artificial, avaliando os seus benefícios e riscos e as capacidades para a sua implementación.

b) Estabelecer as características e especificações técnicas dos sistemas de inteligência artificial, assim como o plano de gestão de dados.

c) Elaborar o relatório do projecto de inteligência artificial, em colaboração com o órgão promotor funcional.

d) Supervisionar o treino dos sistemas de inteligência artificial.

e) Realizar o seguimento e o controlo da implantação, a manutenção, a execução e, se é o caso, a desactivação dos sistemas de inteligência artificial.

Artigo 28. O Escritório de Inteligência Artificial

1. A entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico contará dentro da sua estrutura organizativo com um escritório coordenador para a implantação de projectos de inteligência artificial que supervisionará e apoiará as actuações dos órgãos promotores funcional e responsáveis tecnológicos indicados no artigo anterior no relativo à posta em marcha de sistemas de inteligência artificial e que coordenará a implantação destes sistemas na Administração geral da Comunidade Autónoma da Galiza e no sector público autonómico.

2. A pessoa titular do Escritório de Inteligência Artificial terá as seguintes funções:

a) Analisar o relatório do projecto de inteligência artificial, supervisionando a necessidade e a oportunidade de implantar o sistema de inteligência artificial identificado pelo órgão promotor e responsável tecnológico.

b) Apoiar os órgãos promotores funcional e responsáveis tecnológicos na identificação de oportunidades e na elaboração da documentação necessária durante todo o processo de definição e posta em andamento do projecto de inteligência artificial.

c) Supervisionar os riscos relacionados com a implementación e com o uso dos sistemas de inteligência artificial.

d) Identificar e asesorar de forma contínua sobre as tendências em inteligência artificial que permitam definir e desenvolver iniciativas inovadoras na Galiza.

e) Coordenar a relação da Administração geral da Comunidade Autónoma da Galiza e do seu sector público com as autoridades nacionais e internacionais competente em matéria de inteligência artificial.

f) Qualquer outra função que regulamentariamente se lhe atribua ou encomende.

Artigo 29. Comissão estratégica para o asesoramento em inteligência artificial

1. A pessoa titular da entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico poderá constituir uma comissão para a análise e valoração daqueles projectos que pelo seu nível de risco, impacto ou complexidade tenham, na sua opinião, carácter estratégico. A comissão poderá estar formada por autoridades e pessoal ao serviço da Administração geral da Comunidade Autónoma e do seu sector público com competências relacionadas com a natureza do projecto ou com a inteligência artificial, assim como por pessoas experto do âmbito científico e/ou académico para um asesoramento especializado. Em particular, no que diz respeito à autoridades que poderão fazer parte, serão as relacionadas com competências em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico, sustentabilidade financeira, impacto económico, asesoramento em direito, inclusão social, energias renováveis, sustentabilidade e inovação.

2. A comissão terá a natureza de grupo de trabalho. A pessoa titular da entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico terá em conta o resultado dos estudos ou valorações efectuados pelo grupo de trabalho para os efeitos da adopção da sua decisão sobre o correspondente projecto de inteligência artificial.

Artigo 30. O Conselho Galego de Inteligência Artificial

1. Acredite-se o Conselho Galego de Inteligência Artificial como um órgão colexiado de carácter estratégico para o asesoramento e impulso em matéria de inteligência artificial na Comunidade Autónoma da Galiza, adscrito à conselharia competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico.

2. O Conselho Galego de Inteligência Artificial desenvolverá as seguintes funções:

a) Conhecer a Estratégia galega de inteligência artificial e os programas sectoriais de inteligência artificial e, se procede, formular observações e sugestões.

b) Propor melhoras no planeamento, gestão e avaliação das políticas públicas em matéria de inteligência artificial.

c) Responder às consultas que lhe formulem e elaborar os relatórios que lhe solicite a entidade instrumental com competências em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico.

d) Identificar estratégias reguladoras eficazes do desenho e da implementación de sistemas de inteligência artificial a nível nacional e internacional.

e) Identificar possíveis barreiras e desafios no desenho e na implementación de sistemas de inteligência artificial.

f) Qualquer outra função que regulamentariamente se lhe atribua ou encomende.

3. O Conselho Galego de Inteligência Artificial terá a seguinte composição:

a) Presidente/a: a pessoa titular da entidade instrumental competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico.

b) Secretário/a: uma pessoa designada pela pessoa titular da entidade instrumental competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico, que actuará com voz mas sem voto.

c) Vogais:

1º. A pessoa titular da área competente em matéria de inteligência artificial da entidade instrumental competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico.

2º. A pessoa titular do órgão de direcção competente no relativo a sistemas e tecnologias da informação no âmbito sanitário.

3º. A pessoa titular da entidade instrumental com competências em matéria de inovação no âmbito sanitário.

4º. A pessoa titular do órgão de direcção competente em matéria de indústria.

5º. A pessoa titular da entidade instrumental competente em matéria de promoção económica.

6º. A pessoa titular do órgão de direcção competente em matéria de universidades.

7º. A pessoa titular da entidade instrumental com competências em matéria de investigação e inovação.

8º. A pessoal titular do órgão de direcção competente em matéria de política linguística.

9º. Uma pessoa representante de cada uma das universidades públicas da Galiza.

10º. A pessoa titular do órgão de direcção da Fundação Centro de Supercomputación da Galiza.

11º. Uma pessoa em representação dos centros tecnológicos da Galiza, proposta por acordo entre eles.

12º. Uma pessoa em representação da Associação Clúster TIC da Galiza.

13º. Uma pessoa proposta pelo Colégio Profissional de Engenharia em Informática da Galiza.

14º. Uma pessoa proposta pelo Colégio Profissional de Engenharia Técnica em Informática da Galiza.

15º. Uma pessoa em representação da Confederação de Empresários da Galiza.

16º. Uma pessoa em representação do Conselho Galego de Economia Social.

17º. A pessoa que exerça como delegada de protecção de dados da Agência para a Modernização Tecnológica da Galiza.

18º. Uma pessoa em representação das entidades sociais de promoção da normalização linguística.

4. No caso de ausência ou de doença e, em geral, quando concorra alguma causa justificada, os membros titulares do órgão colexiado serão substituídos pelos seus suplentes que sejam designados.

5. O Conselho adecuará o seu funcionamento ao previsto nesta lei, ao estabelecido a respeito dos órgãos colexiados na Lei 40/2015, de 1 de outubro, e na Lei 16/2010, de 17 de dezembro, e ao regulamento interno de funcionamento que, de ser o caso, se elabore.

6. Além disso, poderão assistir às sessões do Conselho Galego de Inteligência Artificial, depois do convite do presidente ou presidenta, as pessoas representantes daquelas entidades e organismos da Administração geral e do sector público autonómico da Galiza que tenham relação relevante com as matérias incluídas na ordem do dia.

7. As pessoas que integram o Conselho Galego de Inteligência Artificial não perceberão nenhuma remuneração pelo exercício das suas funções no supracitado órgão.

CAPÍTULO II

Planeamento

Artigo 31. Ordenação do planeamento

O planeamento da Administração geral da Comunidade Autónoma da Galiza e do seu sector público para o impulsiono e desenvolvimento da inteligência artificial, tanto no âmbito público como no âmbito privado, levar-se-á a cabo através dos seguintes instrumentos:

a) A Estratégia galega de inteligência artificial.

b) Os programas sectoriais de inteligência artificial.

c) Os projectos de inteligência artificial.

Artigo 32. Estratégia galega de inteligência artificial

1. A Estratégia galega de inteligência artificial terá por objecto o estabelecimento dos objectivos gerais e particulares que se pretendam atingir com o seu desenvolvimento no âmbito da inteligência artificial na Galiza num período temporário definido. Além disso, procurará a coordinação da participação da Comunidade Autónoma da Galiza nos programas e estratégias nacionais e internacionais, assegurando ademais o aliñamento desta estratégia com as demais estratégias vigentes em matéria de inovação e desenvolvimento tecnológico, e promoverá a gestão, medição e avaliação dos resultados obtidos em relação com os objectivos propostos.

2. A elaboração da Estratégia galega de inteligência artificial corresponderá à entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico. A sua aprovação corresponde-lhe ao Conselho da Xunta da Galiza.

3. A informação básica que, de forma geral, incluirá a Estratégia galega de inteligência artificial, assim como a estruturación das suas bases e do seu desenvolvimento, será no mínimo a seguinte:

a) Uma análise da situação de partida dos principais aspectos e indicadores relacionados com a inteligência artificial no contexto galego e da sua relação com estes no âmbito estatal e internacional. Incluir-se-á uma definição e caracterización do ecosistema galego de inteligência artificial.

b) Os programas sectoriais de inteligência artificial achegados pelas diferentes conselharias da Administração geral da Comunidade Autónoma da Galiza, no exercício das suas competências.

c) Os recursos humanos, materiais, técnicos e tecnológicos existentes e as suas possibilidades de evolução, actualização e expansão, assim como as necessidades previsíveis a este respeito no período previsto de duração da Estratégia, ou até onde o horizonte temporário da prospecção tecnológica possa permitir considerar com fiabilidade.

d) A proposta das estruturas de cooperação público-privada mais adequadas para favorecer a consecução dos objectivos da Estratégia de acordo com as estratégias e com as políticas que se promoverão no seu período de vigência, assim como com a articulação com os agentes do ecosistema de inteligência artificial da Galiza.

e) O financiamento previsto com cargo aos orçamentos da Comunidade Autónoma, as demais achegas estatais ou comunitárias e as de entidades de carácter público ou privado.

f) As possibilidades de concertação com outras estratégias e planos relativos de âmbito estatal ou internacional que, pelos seus conteúdos ou pelo seu contexto de desenvolvimento, resultem de interesse para A Galiza.

g) O aliñamento com as demais estratégias vigentes na Comunidade Autónoma em matéria de inovação e desenvolvimento tecnológico.

h) Os indicadores ou métodos para realizar o seguimento da execução e da eficácia dos programas previstos, com a indicação do alcance e do modo em que esta informação se vai difundir entre os agentes interessados e a sociedade em geral.

i) Os resultados obtidos da execução de estratégias prévias, em relação com o nível de cumprimento dos objectivos previstos.

4. O período de vigência da Estratégia será de cinco anos com carácter geral. Não obstante, poderá estabelecer-se um período de vigência inferior, com a devida motivação das razões que o justifiquem.

5. A entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico promoverá um processo participativo para a obtenção de informação e a redacção da Estratégia. Neste sentido, estabelecer-se-ão os mecanismos necessários para a achega de propostas e sugestões e a obtenção de consensos nas grandes linhas de actuação.

Artigo 33. Programas sectoriais de inteligência artificial

1. As diferentes conselharias da Administração geral da Comunidade Autónoma da Galiza proporão os programas e as actuações para a elaboração da Estratégia galega de inteligência artificial.

2. A informação básica que, de forma geral, incluirá cada programa sectorial de inteligência artificial, assim como a estruturación das suas bases e do seu desenvolvimento, será no mínimo a seguinte:

a) Uma análise da situação de partida dos principais aspectos e indicadores relacionados do desenvolvimento da inteligência artificial no concreto sector da actividade pública ou da actividade económica ou social que tenham como objecto.

b) Os recursos humanos, materiais, técnicos e tecnológicos existentes e as suas possibilidades de evolução, actualização e expansão, no concreto sector da actividade pública ou da actividade económica ou social que tenham como objecto.

c) O financiamento previsto com cargo aos orçamentos da Comunidade Autónoma, as demais achegas estatais ou comunitárias e as de entidades de carácter público ou privado.

d) Os indicadores ou métodos para realizar o seguimento da execução e da eficácia dos programas previstos, com a indicação do alcance e do modo em que esta informação se vai difundir entre os agentes interessados e a sociedade em geral.

3. A proposta dos programas sectoriais de inteligência artificial corresponderá à conselharia competente por razão da matéria, com a colaboração da entidade instrumental do sector público galego com competências em matéria das tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico.

Artigo 34. Os projectos de inteligência artificial

1. Os projectos de inteligência artificial definirão, para a sua execução, as características essenciais de um sistema de inteligência artificial e as pautas específicas para o seu desenho, aquisição ou implementación.

2. Os projectos de sistemas de inteligência artificial terão, ao menos, o seguinte conteúdo:

a) A identificação da necessidade e oportunidade de implantar um concreto sistema de inteligência artificial, avaliando os seus benefícios e riscos e as capacidades para a sua implementación, no marco da Estratégia galega de inteligência artificial e, de ser o caso, no marco concreto do programa sectorial de inteligência artificial.

b) A definição das necessidades ou problemas que se pretendem cobrir ou solucionar com o sistema de inteligência artificial, em particular fixando objectivos específicos e a forma para atingí-los.

c) O estabelecimento das características e especificações técnicas do sistema de inteligência artificial, assim como o plano de gestão de dados.

d) A determinação da forma de criação do sistema de inteligência artificial, bem por desenho pelos próprios meios, bem por aquisição.

e) A quantificação dos meios humanos, económicos e materiais necessários para a posta em andamento do projecto.

TÍTULO II

Gestão e colaboração

CAPÍTULO I

Da gestão

Artigo 35. O Inventário de sistemas de inteligência artificial

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público inscreverão de ofício todos os sistemas de inteligência artificial que desenhem ou empreguem no Inventário de sistemas de inteligência artificial, com a finalidade de melhorar a eficácia e a eficiência da actuação administrativa, assim como a transparência desta; tudo isso sem prejuízo da obrigação de registro, se é o caso, na base de dados da União Europeia para os sistemas de inteligência artificial de alto risco, de acordo com o estabelecido no Regulamento (UE) 2024/1689, de 13 de junho de 2024.

2. A inscrição e a gestão do Inventário de sistemas de inteligência artificial correspondem à entidade instrumental do sector público galego com competências em matéria das tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico.

3. O Inventário de sistemas de inteligência artificial reflectirá todo o ciclo de vida dos sistemas de inteligência artificial, desde o seu desenho até a sua desactivação.

4. Os dados inscritos no Inventário de sistemas de inteligência artificial serão públicos e agrupar-se-ão em duas categorias: dados identificativo e dados de funcionamento e rendimento.

5. Os dados identificativo são todos aqueles que permitem conhecer, de forma geral, a existência, a finalidade, a actuação, os resultados, o responsável e os destinatarios de um sistema de inteligência artificial. Estes dados serão objecto de publicação, por camadas, no portal web da entidade instrumental do sector público galego com competências em matéria das tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico.

6. Os dados de funcionamento e rendimento são todos aqueles que permitem conhecer, de forma específica, o funcionamento de um sistema de inteligência artificial, assim como todos os fitos do seu ciclo de vida. Estes dados poderão ser consultados, excepto que razões da garantia para a efectividade do sistema, da sua segurança ou dos direitos de propriedade intelectual ou industrial existentes o impeça.

Artigo 36. As pessoas comisionadas de inteligência artificial

1. As pessoas comisionadas de inteligência artificial velarão pelo cumprimento dos princípios e obrigações na matéria de prevenção, detecção e eliminação de riscos e de resultados negativos da implementación dos sistemas de inteligência artificial desenhados ou empregados pela Administração geral da Comunidade Autónoma da Galiza e o seu sector público, de conformidade com a normativa aplicável.

2. As pessoas que desempenhem as funções de comisionadas de inteligência artificial deverão ter conhecimentos técnicos, jurídicos, éticos, de normas de segurança e de tomada de decisões automatizado.

3. As pessoas comisionadas de inteligência artificial desenvolverão as seguintes funções:

a) Velar por um uso ético e responsável da inteligência artificial.

b) Supervisionar o desenho, o desenvolvimento, a implementación e o uso dos sistemas de inteligência artificial.

c) Asesorar e advertir sobre os riscos presentes e futuros do desenho, desenvolvimento e uso dos sistemas de inteligência artificial.

d) Receber as sugestões e as queixas de irregularidades no desenho, desenvolvimento, implementación e uso dos sistemas de inteligência artificial.

4. Com carácter prévio à apresentação de uma reclamação ou recurso ante o órgão competente, a pessoa que se considere afectada poderá dirigir à pessoa comisionada correspondente do órgão ou entidade competente contra a que pretende reclamar. Neste caso, no prazo máximo de dois meses, a pessoa comisionada comunicará à pessoa afectada se se vai proceder à adopção de medidas ao respeito.

O procedimento e canal para a apresentação destas sugestões ou queixas, assim como a contestação à pessoa afectada, será o previsto no artigo 16 da Lei 1/2015, de 1 de abril, de garantia da qualidade dos serviços públicos e de boa administração.

Além disso, em caso que se presente um recurso ou reclamação ante o órgão competente, este dará deslocação para relatório à pessoa comisionada.

CAPÍTULO II

Da cooperação interadministrativo e da colaboração público-privada

Artigo 37. A cooperação entre administrações públicas

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público, através da entidade instrumental com competências em matéria das tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico, manterão uma constante comunicação e colaboração com o Escritório de Inteligência Artificial na União Europeia, com a Agência Espanhola de Supervisão da Inteligência Artificial e com outros organismos análogos, nacionais ou internacionais, com a finalidade de intercambiar conhecimentos e experiências no campo da regulação e supervisão do desenho e implementación de sistemas de inteligência artificial no âmbito das suas competências.

2. Com a mesma finalidade, estabelecer-se-ão vias de colaboração para partilhar experiências e boas práticas com as entidades locais galegas, com as universidades galegas e com os organismos estatutários da Comunidade Autónoma.

3. A entidade instrumental com competências em matéria das tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico criará um espaço específico para facilitar o desenvolvimento colaborativo de sistemas de inteligência artificial e modelos de inteligência artificial de uso geral entre diversas administrações públicas, nacionais e de outros estados membros da União europeia.

Artigo 38. O repositorio de sistemas de inteligência artificial

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público poderão pôr à disposição das demais administrações que operam na Comunidade Autónoma da Galiza os sistemas de inteligência artificial e modelos de inteligência artificial de uso geral desenvolvidos pelos seus serviços, exclusivamente ou em colaboração com outras entidades públicas ou privadas, ou que fossem adquiridos a terceiros, sempre que tenham os direitos de propriedade intelectual sobre eles ou que alcancem um acordo com a pessoa titular destes direitos para tal fim.

2. A entidade instrumental com competências no campo das tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico publicará, através do seu portal web, uma relação dos sistemas de inteligência artificial e modelos de inteligência artificial de uso geral aos que se refere o apartado anterior.

Artigo 39. Colaboração entre o sector público e o sector privado

1. A Administração geral e o seu sector público impulsionarão a colaboração público-privada para o desenvolvimento de projectos de inteligência artificial.

2. A supracitada colaboração, no marco da legislação básica e autonómica de desenvolvimento, poder-se-á instrumentar através de mecanismos institucionais, como consórcios ou sociedades de economia mista, e de mecanismos negociables, como convénios de colaboração ou contratos administrativos.

TÍTULO III

Procedimento para a definição e a posta em marcha de projectos de inteligência artificial na Administração geral da Comunidade Autónoma da Galiza
e no seu sector público

CAPÍTULO I

Definição e aprovação de projectos de inteligência artificial

Artigo 40. A definição de projectos de inteligência artificial e a valoração dos seus riscos

1. No âmbito da Administração geral da Comunidade Autónoma da Galiza e do seu sector público, a definição dos projectos de inteligência artificial será iniciada conjuntamente pelos órgãos promotores funcional e responsáveis tecnológicos.

2. A supracitada definição formalizar-se-á num relatório do projecto de inteligência artificial. A entidade instrumental com competências em matéria das tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico elaborará uma guia sobre o conteúdo mínimo e os critérios que se deverão seguir para a elaboração do relatório.

3. Os órgãos promotores funcional e responsáveis tecnológicos darão deslocação do relatório do projecto de inteligência artificial ao Escritório de Inteligência Artificial, a qual formalmente acordará a iniciação da sua tramitação, salvo que da classificação do nível de risco associado ao sistema de inteligência artificial ou modelo de inteligência artificial de uso geral se conclua que se trata de um sistema ou modelo proibido ou que esteja presente um nível de risco inaceitável, de conformidade com a regulação da União Europeia. Neste suposto arquivar sem mais trâmite a proposta de projecto de inteligência artificial.

Artigo 41. A elaboração do relatório do projecto de inteligência artificial

1. Os órgãos promotores funcional e responsáveis tecnológicos serão os responsáveis por elaborar o relatório do projecto de inteligência artificial.

2. O relatório do projecto de inteligência artificial deverá conter, ao menos:

a) A identificação das necessidades funcional que devam ser cobertas e uma definição clara e objectiva dos problemas que se pretendem solucionar, em particular estabelecendo os objectivos específicos para atingí-lo.

b) A identificação da necessidade e oportunidade de desenhar ou adquirir, implementar e empregar sistemas de inteligência artificial, avaliando os seus benefícios e riscos e as capacidades técnicas, humanas e económicas e de sustentabilidade para a sua posta em marcha e manutenção.

c) A relação de características e especificações técnicas do sistema de inteligência artificial proposto.

d) O conjunto de dados proposto para o treino, a validação e a prova, especificando se aquele contém uma combinação de dados pessoais e não pessoais, assinalando de modo específico se se tratariam dados pessoais de categoria especial, segundo o disposto no artigo 9.1. do Regulamento (UE) 2016/679, de 27 de abril, assim como um plano para a sua gestão.

e) A proposta inicial de medidas de segurança que há que aplicar, em cumprimento do princípio de segurança desde o desenho consonte o disposto no Regulamento (UE) 2016/679, de 27 de abril, e o disposto na disposição adicional primeira da Lei orgânica 3/2018, de 5 de dezembro.

f) A avaliação de impacto relativa aos direitos fundamentais. No caso de tratar-se de um sistema de inteligência artificial de alto risco, seguir-se-á o modelo de cuestionario elaborado pelo Escritório Europeu de Inteligência Artificial de acordo com a normativa vigente de aplicação.

g) A coerência e o encaixe do projecto de inteligência artificial na Estratégia galega de inteligência artificial e no correspondente programa sectorial de inteligência artificial.

Artigo 42. A aprovação de projectos de inteligência artificial

1. O Escritório de Inteligência Artificial analisará o relatório do projecto de inteligência artificial e emitirá proposta para a sua aprovação no prazo máximo de um mês desde a sua recepção. Em caso que perceba que existem questões que há que emendar, procederá à sua devolução aos órgãos promotor funcional e responsável tecnológico para a sua melhora, acompanhado de uma memória explicativa dos pontos que há que corrigir ou completar. Trás a emenda, o relatório submeter-se-á novamente à análise do Escritório de Inteligência Artificial.

2. A pessoa titular da entidade instrumental competente em matéria das tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico aprovará todos os projectos de inteligência artificial, depois da proposta do Escritório de Inteligência Artificial. A aprovação implicará que o projecto de inteligência artificial passa à fase de desenho, desenvolvimento ou aquisição e implementación regulada no capítulo II deste título.

3. O prazo máximo para ditar a resolução de aprovação será de dois meses, contados desde a entrada do relatório do projecto de inteligência artificial no registro do órgão competente para resolver. O projecto perceber-se-á recusado pelo transcurso do dito prazo sem que se ditasse resolução expressa.

CAPÍTULO II

Desenho, desenvolvimento ou aquisição e implantação
de sistemas de inteligência artificial

Artigo 43. Desenho dos sistemas de inteligência artificial

1. Trás a aprovação do projecto de inteligência artificial, o órgão responsável tecnológico procederá ao desenho do sistema de inteligência artificial, com a colaboração do Escritório de Inteligência Artificial.

2. O desenho do sistema de inteligência artificial tem como finalidade definir as suas especificações técnicas. No mínimo, este conterá informação sobre a tipoloxía de dados que se empregarão e um plano para a sua gestão, os algoritmos e modelos que o conformam, o desenho da sua arquitectura, a interface de utente e as especificações relativas à mitigación de riscos.

3. O desenho do sistema de inteligência artificial documentar-se-á seguindo os procedimentos e standard definidos pela entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico.

4. Quando o sistema de inteligência artificial tenha por finalidade a adopção de actos administrativos automatizado, o desenho do sistema de inteligência artificial recolherá os requisitos exixir pelo artigo 41.2 da Lei 40/2015, de 1 de outubro, e pelo artigo 76 da Lei 4/2019, de 17 de julho.

Artigo 44. Desenvolvimento dos sistemas de inteligência artificial

1. O desenvolvimento do sistema de inteligência artificial levar-se-á a cabo seguindo os procedimentos e standard definidos pela entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico.

2. O desenvolvimento deverá garantir o cumprimento das especificações técnicas recolhidas no artigo 43, especialmente aquelas relacionadas com a mitigación de riscos.

Artigo 45. Procedimento para a aquisição dos sistemas de inteligência artificial

1. A aquisição de sistemas de inteligência artificial realizar-se-á conforme o previsto na normativa de aplicação correspondente segundo os diferentes modos de aquisição, que, no caso de procedimentos de aquisição por compra, será a normativa básica estatal e autonómica em matéria de contratação pública. Em particular, procurar-se-á a eleição de modalidades de contratação pública de inovação.

2. Os sistemas de inteligência artificial adquiridos deverão contar com as certificações e com os sê-los exixir pela normativa vigente.

3. De forma adicional, o sistema de inteligência artificial adquirido deverá cumprir as especificações técnicas recolhidas no artigo 43, especialmente aquelas relacionadas com a mitigación de riscos.

Artigo 46. Treino, validação e prova dos sistemas de inteligência artificial

1. O órgão responsável tecnológico levará a cabo o treino do sistema de inteligência artificial, com o fim de ajustar os parâmetros objecto de aprendizagem deste, assim como a validação do sistema treinado, com o fim de realizar uma avaliação do seu resultado de aprendizagem e ajustar os parâmetros não susceptíveis de ser aprendidos.

2. O órgão promotor funcional levará a cabo a prova do sistema de inteligência artificial, com o fim de confirmar o rendimento aguardado do sistema antes da sua activação.

Artigo 47. O plano de gestão de dados

1. O órgão responsável tecnológico velará pela realização das verificações e acções necessárias com o fim de assegurar que os conjuntos de dados que se vão utilizar para o treino, a validação e a prova estão estruturados e documentados da maneira mais completa possível de acordo com as melhores práticas e com a normativa européia e estatal aplicável, em particular no relativo à normativa em matéria de direitos de autor e direitos afíns.

2. Com tal fim, elaborar-se-á um plano de gestão de dados com o objectivo de facilitar a gestão da informação ao longo de todo o seu ciclo de vida, desde a criação ou recepção dos dados até a sua análise, passando pela sua organização, limpeza e preservação.

3. O plano de gestão de dados deverá conter, ao menos, os seguintes aspectos:

a) O manejo de dados durante e depois do final do projecto.

b) Os dados que se recopilarão, processarão e/ou gerarão.

c) A disponibilidade e a qualidade dos dados que se vão empregar no projecto.

d) As metodoloxías e os standard que se aplicarão na gestão dos dados.

e) A possibilidade de partilhar os dados em acesso aberto.

f) O procedimento de curado e conservação dos dados, inclusive depois da finalização do projecto.

g) O procedimento de anonimización, se procede.

Artigo 48. Activação, manutenção e avaliação contínua dos sistemas de inteligência artificial

1. Uma vez experimentado o sistema de inteligência artificial, o órgão responsável tecnológico procederá à sua activação e posta em funcionamento.

2. O órgão promotor funcional e o órgão responsável tecnológico levarão a cabo a avaliação contínua do rendimento do sistema de inteligência artificial e dos riscos relacionados com o seu uso.

3. O procedimento de avaliação contínua será definido pela entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico, a qual elaborará uma guia sobre o conteúdo mínimo e os critérios que há que seguir para a elaboração do relatório.

4. O Escritório de Inteligência Artificial levará a cabo a supervisão da avaliação contínua.

Artigo 49. Espaços controlados de provas

1. A entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico dotar-se-á de espaços de provas controladas, simulando contornas de uso real, nas que se poderão desenvolver, treinar, experimentar e validar sistemas de inteligência artificial antes de ser empregues pela Administração geral da Comunidade Autónoma da Galiza e pelo seu sector público, para garantir a máxima qualidade e segurança deles, assim como para assegurar o cumprimento óptimo dos princípios gerais recolhidos nesta lei.

2. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público velarão porque, na medida em que os sistemas de inteligência artificial impliquem o tratamento de dados pessoais, a autoridade competente em matéria de protecção de dados esteja vinculada ao funcionamento do espaço controlado de provas.

TÍTULO IV

O uso de sistemas de inteligência artificial e modelos
de inteligência artificial de uso geral

Artigo 50. O alcance do uso de sistemas de inteligência artificial na tomada de decisões: actuações administrativas automatizado e semiautomatizadas

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público poderão adoptar actos administrativos, de forma automatizado e sem a intervenção directa de uma pessoa empregada pública, mediante sistemas de inteligência artificial, no marco de um procedimento administrativo, quando exerçam potestades regradas e, excepcionalmente, potestades discrecionais, em caso que a margem de discrecionalidade se esgotasse previamente no desenho do sistema de inteligência artificial.

2. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público poderão apoiar a sua tomada de decisões nas previsões ou recomendações emitidas por sistemas de inteligência artificial.

Artigo 51. Guias para o uso de sistemas de inteligência artificial

A entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico elaborará e actualizará de forma contínua as oportunas guias que terão como finalidade facilitar o cumprimento desta lei, em particular garantir o bom desenho, implementación e uso dos sistemas de inteligência artificial. Estas guias tomarão em consideração as directrizes e as guias previstas na normativa específica européia.

Artigo 52. Ferramentas de autodiagnose

A entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico desenvolverá os instrumentos tecnológicos necessários que permitam avaliar, de modo continuado, o correcto cumprimento dos princípios gerais sobre os sistemas de inteligência artificial recolhidos nesta lei por parte da Administração geral da Comunidade Autónoma da Galiza e do seu sector público.

Artigo 53. As respostas face à falha de um sistema de inteligência artificial

1. A entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico desenvolverá um protocolo de reacção imediata em caso que detecte uma possível falha no funcionamento de um sistema de inteligência artificial.

2. Este protocolo baseará nos princípios de recurso imediato à revisão humana, celeridade na adopção de resoluções e minimización das repercussões das falhas e dos prejuízos derivados deles.

3. O assinalado nos apartados anteriores perceber-se-á sem prejuízo das obrigações na matéria de intercâmbio de informação e vigilância do comprado para sistemas de inteligência artificial de alto risco recolhidas no capítulo IX do Regulamento (UE) 2024/1689, de 13 de junho de 2024.

TÍTULO V

Das medidas para o impulsiono da inteligência artificial na Galiza

CAPÍTULO I

Medidas económicas e fiscais

Secção 1ª. Medidas de impulso em matéria de política industrial

Artigo 54. Planos directores dos sectores industriais da Comunidade Autónoma da Galiza

Na elaboração dos planos directores dos diferentes sectores industriais previstos no Decreto legislativo 1/2015, de 12 de fevereiro, pelo que se aprova o texto refundido das disposições legais da Comunidade Autónoma da Galiza em matéria de política industrial, analisar-se-á o potencial da inteligência artificial no desenvolvimento da actividade industrial no sector concreto que corresponda e, de ser o caso, ter-se-á em conta na definição das medidas de impulso que os ditos planos incluam.

Artigo 55. Projectos industriais estratégicos

Para os efeitos do requisito estabelecido na alínea c) do artigo 78 do Decreto legislativo 1/2015, de 12 de fevereiro, considerar-se-á que os projectos que tenham relação directa com a inteligência artificial pertencem a um sector estratégico aliñado com os objectivos da União Europeia.

Artigo 56. Projectos empresariais singulares

Para os efeitos do cumprimento dos requisitos exixir para a determinação dos projectos empresariais singulares, considerar-se-á o sector da inteligência artificial como de especial importância, para os efeitos da valoração da concorrência das circunstâncias previstas no artigo 75.1.a) da Lei 3/2022, de 18 de outubro, de áreas empresariais da Galiza.

Secção 2ª. Medidas de impulso em matéria de transição energética

Artigo 57. Transição energética

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público, no âmbito das suas competências e num contexto de uma transição energética justa, integradora e de luta contra o mudo climático, promoverão o uso da inteligência artificial nos projectos de geração, distribuição e armazenamento de energia a partir de fontes renováveis, assim como projectos que promovam tanto a poupança e a eficiência energética como a óptima gestão dos recursos energéticos, na medida na que o seu uso facilite a consecução de impactos socioeconómicos positivos no território e contribua a alcançar os objectivos de descarbonización e neutralidade climática fixados nos planos, programas e estratégias de transição elaborados pela União Europeia, pela Administração geral do Estado e pela própria Administração autonómica.

2. Igualmente, dada a necessidade de fornecer de materiais como base para a criação de tecnologia verde que propicie a transição energética, a Administração geral da Comunidade Autónoma da Galiza e o seu sector público promoverão, no âmbito das suas competências, o emprego da inteligência artificial nos projectos relacionados com a investigação e com o abastecimento de matérias primas estratégicas, de modo seguro, resiliente e sustentável, garantindo ao mesmo tempo um elevado nível de protecção do meio ambiente.

3. Para tal fim, nas convocações de subvenções em regime de concorrência competitiva realizadas pela Administração geral da Comunidade Autónoma da Galiza e pelo seu sector público que tenham relação com o processo de transição energética ou com a investigação e com o abastecimento de matérias primas estratégicas poder-se-á estabelecer, sempre que seja possível, nas bases da convocação um critério de valoração específico que pondere positivamente o emprego da inteligência artificial quando implique uma melhora da eficiência do projecto.

Secção 3ª. Medidas de impulso empresarial, emprendemento e investimento

Artigo 58. Promoção do ecosistema empresarial de inteligência artificial

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público, com o fim de impulsionar e promover a inteligência artificial e o seu ecosistema, porão o órgão responsável da gestão dos instrumentos previsto na Lei 9/2021, de 25 de fevereiro, de simplificação administrativa e de apoio à reactivação económica da Galiza, como canal único à disposição das empresas que desenvolvam e impulsionem as novas tecnologias e a inteligência artificial. Este órgão facilitará, através do seu sistema de atenção ao investimento, um marco de apoios económicos específicos para as empresas tecnológicas que fomentem o desenvolvimento da inteligência artificial na Galiza, em coordinação com os demais agentes do ecosistema.

2. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público criarão um sistema de vigilância tecnológica em inteligência artificial para as empresas em colaboração com os European Digital Innovation Hubs estratégicos, com o fim de impulsionar o desenvolvimento tecnológico endógeno da inteligência artificial para a sua comercialização nacional e internacional e a aplicação nos sectores económicos emergentes e tradicionais.

3. Além disso, a Administração geral da Comunidade Autónoma da Galiza e o seu sector público apoiarão a fabricação inteligente e a automatização e a modernização de processos das empresas, em particular das pequenas e medianas, através da inteligência artificial e impulsionarão a posta em marcha de novos centros de fabricação avançada e infra-estruturas estratégicas em matéria de inteligência artificial.

Artigo 59. Apoio à actividade emprendedora em inteligência artificial

A Administração geral da Comunidade Autónoma da Galiza e o seu sector público, com o fim de impulsionar o ecosistema de emprendemento inovador, criarão programas de incubação, aceleração e consolidação de start-ups em inteligência artificial e deep tech.

Artigo 60. Fomento do investimento em soluções de inteligência artificial

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público, com o fim de impulsionar o investimento em inteligência artificial, desenharão novos instrumentos financeiros que fomentem o investimento empresarial em soluções de inteligência artificial e tecnologias emergentes.

2. Em particular, criar-se-á um fundo de participação em empresas que desenvolvam na Galiza sistemas de inteligência artificial através da sociedade mercantil pública autonómica da Xunta de Galicia com competência na matéria.

Secção 4ª. Medidas fiscais

Artigo 61. Incentivos fiscais

A Administração geral da Comunidade Autónoma da Galiza e o seu sector público promoverão medidas normativas nos tributos nos que a Comunidade Autónoma da Galiza tenha atribuídas competências, orientadas a uma redução dos custos fiscais que tenham que enfrentar as empresas inovadoras no âmbito da inteligência artificial que se instalem na Galiza, assim como benefícios fiscais para as pessoas que invistam nas ditas empresas ou em projectos de inteligência artificial.

CAPÍTULO II

Medidas em matéria de I+D+i

Artigo 62. Fomento da investigação e inovação no âmbito da inteligência artificial

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público fomentarão um ecosistema galego de investigação e inovação em matéria de inteligência artificial no que o talento investigador, as empresas emergentes e as pequenas e médias empresas possam trabalhar em estreita colaboração com os utentes industriais, atrair investimentos para a Comunidade Autónoma da Galiza e ter acesso aos principais componentes da inteligência artificial de maneira fiável e acessível, que funcione para a cidadania, que respeite os direitos fundamentais e a democracia e a segurança e no que confiem as empresas e as pessoas consumidoras.

2. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público apoiarão os avanços algorítmicos que sejam fiáveis, em consonancia com a normativa européia, estatal e autonómica, em particular pondo à disposição fundos de apoio à I+D+i para promover o uso responsável desta tecnologia.

Em particular, promoverão a investigação e a capacitação em soluções inovadoras em computação sustentável e algoritmos verdes, estabelecendo colaborações com os agentes do ecosistema de inteligência artificial da Galiza.

3. Além disso, os organismos de investigação da Administração da Comunidade Autónoma da Galiza promoverão e apoiarão o uso responsável da inteligência artificial nas actividades de investigação.

Em particular, facilitarão formação especialmente sobre a verificação dos resultados, a manutenção da privacidade, o tratamento dos nesgos e a protecção dos direitos de propriedade intelectual. Além disso, proporcionarão apoio e directrizes para garantir o cumprimento dos requisitos éticos e legais.

4. A Administração geral da Comunidade Autónoma da Galiza e aquelas entidades instrumentais do sector publico autonómico que financiem a investigação e a inovação desenharão os seus instrumentos de financiamento de forma favorável ao uso responsável e ético das tecnologias de inteligência artificial nas actividades de investigação e exixir que a investigação financiada e os seus beneficiários se ajustem à legislação autonómica, nacional, comunitária e internacional vigente e às boas práticas para um uso responsável da inteligência artificial.

5. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público favorecerão a colaboração e a transferência de conhecimento em inteligência artificial entre o Sistema universitário da Galiza e o tecido empresarial e social.

Artigo 63. Ecosistema de inteligência artificial da Galiza

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público promoverão um ecosistema emergente de investigação e inovação em inteligência artificial como uma contorna que inclua todos os actores, infra-estruturas, dinâmicas de colaboração e factores necessários para fomentar o desenvolvimento, a adopção e o uso responsável desta tecnologia.

A entidade instrumental com competências no campo das tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico criará o Mapa do ecosistema de inteligência artificial da Galiza, identificando os agentes que operam na Comunidade Autónoma da Galiza investindo, desenhando, criando ou operando com soluções de inteligência artificial inovadoras.

2. A entidade instrumental com competências no campo das tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico promoverá fórmulas de colaboração com os agentes identificados no Mapa do ecosistema de inteligência artificial da Galiza.

3. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público impulsionarão a participação do ecosistema de inteligência artificial da Galiza nos ecosistema promovidos pelas autoridades nacionais e internacionais competente.

Artigo 64. Grandes infra-estruturas de supercomputación para o desenvolvimento do ecosistema de inteligência artificial

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público impulsionarão a dotação e a melhora das grandes infra-estruturas de supercomputación para o desenvolvimento do ecosistema de inteligência artificial da Galiza.

2. Em particular, impulsionará modelos de colaboração e acesso às infra-estruturas tecnológicas do Centro de Supercomputación da Galiza, infra-estrutura científico-técnica singular, para o ecosistema de investigação e inovação em matéria de inteligência artificial, compatíveis com os compromissos de disponibilidade de uso vinculados ao seu carácter de infra-estrutura científico-técnica singular, a sua pertença a consórcios nacionais ou internacionais ou outros condicionante de financiamento destas infra-estruturas.

3. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público promoverão sinergias com a Empresa Comum Européia de Computação de Alto Rendimento (EuroHPC) e com outras iniciativas de supercomputación a nível europeu, com o objectivo de manter na vanguarda no acesso às principais iniciativas, projectos e grandes infra-estruturas de supercomputación e inteligência artificial.

Artigo 65. Espaços de dados

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público desenvolverão espaços de dados dentro de uma contorna de soberania, confiança e segurança, mediante mecanismos integrados de gobernanza, organizativo, normativos e técnicos, que garantam que os dados sejam fáceis de encontrar, acessíveis, interoperables e reutilizables, conforme o estabelecido no Regulamento 2022/868, de 30 de maio de 2022, relativo à gobernanza europeia de dados e pelo que se modifica o Regulamento (UE) 2018/1724 e a demais normativa vigente de aplicação.

2. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público facilitarão o acesso a conjuntos de dados de alta qualidade e melhorarão a sua disponibilidade para o ecosistema de inteligência artificial da Galiza, em particular para as empresas emergentes e a comunidade científica e de inovação.

Artigo 66. Indústrias de inteligência artificial

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público impulsionarão a posta em marcha de indústrias de inteligência artificial ou outras iniciativas similares arredor de infra-estruturas tecnológicas do Centro de Supercomputación da Galiza, que englobarão a capacidade informática e os serviços de supercomputación, assim como actividades para atrair talento a grande escala orientadas a potenciar sectores estratégicos na Comunidade Autónoma da Galiza. Tais iniciativas fomentarão a colaboração público-privada entre os diferentes agentes do ecosistema de inteligência artificial da Galiza.

2. Com o fim de fomentar o posterior desenvolvimento e a capacidade de ampliação do ecosistema de inteligência artificial, a Administração geral da Comunidade Autónoma da Galiza e o seu sector público seguirão apoiando a melhora das infra-estruturas tecnológicas do Centro de Supercomputación da Galiza e definirão os protocolos de acesso aos agentes do ecosistema de inteligência artificial da Galiza, em particular às empresas emergentes, às pequenas e médias empresas e à comunidade científica e de inovação que necessitem treinar sistemas de inteligência artificial e modelos de inteligência artificial de uso geral.

Artigo 67. Espaços controlados de provas para o tecido investigador e empresarial

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público poderão dotar de espaços controlados de provas o tecido investigador e empresarial, simulando contornas de uso real, nos que se poderão desenvolver, treinar, experimentar e validar os sistemas de inteligência artificial, de acordo com o estabelecido no artigo 57.2 do Regulamento (UE) 2024/1689, de 13 de junho.

2. Estes espaços estarão à disposição das empresas e organizações que desenvolvam sistemas de inteligência artificial na Galiza, assim como daquelas outras entidades que queiram desenvolver, treinar, experimentar e validar os sistemas existentes, simulando contornas de uso real no âmbito da Comunidade Autónoma galega.

3. Regulamentariamente, estabelecer-se-ão as características destes espaços, que poderão ser geridos directa ou indirectamente, com a colaboração de entidades do ecosistema de inteligência artificial da Galiza ou de outras entidades privadas, pelo organismo do sector público galego com competências no âmbito das tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico, de conformidade com o estabelecido nos artigos 58 e 59 do Regulamento (UE) 2024/1689, de 13 de junho.

Artigo 68. Compra pública estratégica de inteligência artificial

1. Com o fim de acelerar o desenvolvimento, ensaio e implantação de soluções inovadoras baseadas na inteligência artificial, a Administração geral da Comunidade Autónoma da Galiza e o seu sector público poderão empregar contratos públicos que tenham por objecto o desenho, o desenvolvimento e, se é o caso, a aquisição deste tipo de soluções para a melhora dos serviços públicos e actuar como utente pioneiro dos ditos sistemas.

Tais contratos poderão adjudicar-se por quaisquer dos procedimentos previstos na legislação básica na matéria de contratação pública e, se é o caso, pelas modalidades de contratação pública de inovação quando assim se justifique. Em particular, atenderá ao procedimento de associação para a inovação que permitirá a aquisição ulterior das soluções inovadoras sempre que se atinjam os níveis de rendimento e se respeitem os custos máximos acordados entre o órgão de contratação e os participantes.

2. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público poderão cooperar com outras administrações que não tenham os conhecimentos e recursos necessários para pôr em marcha este tipo de procedimentos de contratação. Em particular, a entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico poderá dar apoio mediante a colaboração na preparação e definição de especificações técnicas e/ou no desenho dos projectos.

3. Além disso, a Administração geral da Comunidade Autónoma da Galiza e o seu sector público poderão acordar a realização conjunta de determinadas contratações específicas com outras administrações para impulsionar o desenvolvimento e o uso da inteligência artificial na melhora da prestação de serviços públicos no âmbito territorial da Comunidade Autónoma da Galiza. Esta contratação conjunta esporádica poderá consistir, entre outras formas, numa contratação coordenada mediante a preparação de especificações técnicas comuns de obras, serviços ou subministrações que vão ser contratados por vários poderes adxudicadores, seguindo cada um deles um procedimento de contratação independente ou bem assumindo a gestão do procedimento de contratação em nome de todos os poderes adxudicadores que participem no acordo. A dita colaboração formalizar-se-á através de acordos de contratação conjunta nos que se recolherá, entre outros aspectos, a responsabilidade das partes de conformidade com o disposto no artigo 31.3 da Lei 9/2017, de 8 de novembro, de contratos do sector público. No caso de financiamento conjunto destes contratos, os acordos precisarão os compromissos alcançados, as quantidades objecto de financiamento por cada um deles, a ordem de aboação das achegas, a forma em que serão objecto de achega ao órgão de contratação que se ocupa da adjudicação e formalização do contrato ou a forma de pagamento ao contratista pelos órgãos financiadores.

4. Com a finalidade de promover um uso responsável e ético da inteligência artificial através dos contratos públicos, a entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico, com a assistência da Assessoria Jurídica Geral e da Secretaria da Junta Consultiva de Contratação Administrativa da Comunidade Autónoma da Galiza, elaborará um catálogo de cláusulas segundo o nível de risco dos sistemas de inteligência artificial para incorporar nos pregos de cláusulas administrativas e técnicas empregados pelo sector público autonómico que tenham por objecto o desenho, o desenvolvimento e, se é o caso, a aquisição deste tipo de soluções inovadoras em matéria de inteligência artificial.

Entre outros aspectos, as supracitadas cláusulas garantirão:

a) A manutenção de registros de eventos pelos sistemas de inteligência artificial.

b) A adopção de medidas ajeitado de transparência, de supervisão humana e de altos níveis de precisão, robustez, segurança e ciberseguridade.

c) A inclusão de interfaces que permitam a efectiva supervisão dele por pessoas físicas.

d) A obrigação de explicar, em todo momento, sobre como um sistema de inteligência artificial tem chegado a um resultado concreto, de conformidade com o estado da tecnologia.

e) O dever de não empregar os dados recebidos para fins alheios ao contrato.

f) A entrega de uma documentação técnica detalhada que contenha a descrição geral do sistema de inteligência artificial, assim como dos seus elementos e do seu processo de desenvolvimento.

g) A posta à disposição de instruções de uso detalhadas.

h) A vigência do princípio de responsabilidade ao longo do ciclo de vida do sistema de inteligência artificial, precisando a quem e em que circunstâncias se lhe atribuem os erros ou falhas derivados do uso ou resultados do sistema de inteligência artificial.

5. A entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico, em colaboração com a Assessoria Jurídica Geral, a Secretaria da Junta Consultiva de Contratação Administrativa da Comunidade Autónoma da Galiza e as entidades instrumentais do sector público competente em matéria de formação das pessoas empregadas públicas, impulsionará formação especializada nesta matéria e, se é o caso, aos operadores económicos, especialmente as pequenas e médias empresas, que intervenham neste tipo de procedimentos de contratação.

CAPÍTULO III

Medidas de formação e capacitação

Artigo 69. A formação e capacitação das pessoas empregadas públicas em matéria de inteligência artificial

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público habilitarão os meios necessários para garantir o acesso à capacitação inicial e formação contínua das pessoas empregadas públicas, de acordo com as características dos seus postos de trabalho, para o desenvolvimento das suas competências em relação com os sistemas de inteligência artificial e com o uso eficiente destes na prestação dos serviços públicos.

2. A capacitação inicial e a formação contínua dos empregados públicos em matéria de inteligência artificial, ademais de compreender os aspectos técnicos, têm que abranger os aspectos éticos e legais do emprego deles.

Artigo 70. O apoio na formação e capacitação do tecido produtivo em matéria de inteligência artificial

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público promoverão acções formativas das pessoas trabalhadoras em matéria de inteligência artificial e medidas de apoio às empresas e às entidades do terceiro sector que despreguem planos de capacitação e formação na matéria.

2. Impulsionar-se-ão programas de actualização profissional para permitir às pessoas trabalhadoras adaptar às mudanças nas suas funções ou passar a novas funções que requeiram competências diferentes.

3. Entre os conteúdos da oferta formativa para pessoas desempregadas incluir-se-á a formação em inteligência artificial para assegurar a adaptação à mudança de competências necessárias nos postos de trabalho.

Artigo 71. A formação universitária e profissional em matéria de inteligência artificial

1. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público impulsionarão actividades de formação, capacitação e actualização profissional no âmbito da inteligência artificial, por exemplo apoiando programas de mestrado e doutoramento específicos e, em particular, animando à participação das mulheres, introduzindo as medidas necessárias que facilitem e potenciem a incorporação das mulheres em condições de igualdade a este sector.

2. A Administração geral da Comunidade Autónoma da Galiza e o seu sector público fortalecerão o talento na Galiza em matéria de inteligência artificial mediante o desenvolvimento e a integração de capacidades de inteligência artificial com habilidades sectoriais específicas, ademais de promover a atracção e retenção de talento especializado nesta matéria.

Artigo 72. A formação da cidadania para a luta contra os riscos dos sistemas de inteligência artificial

1. A Administração autonómica adoptará medidas para a alfabetização da sociedade galega em matéria de inteligência artificial baseadas na aprendizagem, uso e aplicação de ferramentas de inteligência artificial, promovendo o desenvolvimento de capacidades emprendedoras, criativas, sociais e culturais.

2. Além disso, adoptará medidas para consciencializar as pessoas sobre os maus usos dos sistemas de inteligência artificial e as formas de contrarrestalos para assegurar uma sociedade consciente, com uma opinião pública adequadamente informada.

Disposição adicional única. Atribuição de funções das pessoas comisionadas de inteligência artificial

As funções das pessoas comisionadas na Administração geral da Comunidade Autónoma da Galiza e no seu sector público serão desempenhadas pelas pessoas delegar de protecção de dados. A entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico, em colaboração com as entidades instrumentais do sector público competente em matéria de formação dos empregados públicos, dará cursos de formação específicos na matéria para os efeitos da sua capacitação.

Disposição transitoria única. Identificação e registro de sistemas de inteligência artificial existentes

A entidade instrumental do sector público competente em matéria de tecnologias da informação e da comunicação e a inovação e o desenvolvimento tecnológico realizará uma identificação dos sistemas de inteligência artificial existentes na Administração geral da Comunidade Autónoma da Galiza e no seu sector público e procederá ao seu registro no inventário ao que se refere o artigo 35.

Disposição derradeiro primeira. Modificação da Lei 1/2016, de 18 de janeiro, de transparência e bom governo

Acrescenta-se a alínea f) ao artigo 8 da Lei 1/2016, de 18 de janeiro, de transparência e bom governo, com a seguinte redacção:

«f) A relação de sistemas de inteligência artificial ou modelos de inteligência artificial de uso geral que tenham impacto nos procedimentos administrativos ou na prestação dos serviços públicos, com a descrição de maneira compreensível da sua arquitectura e funcionamento, dos dados que utilizam, do nível de risco que implicam e do impacto dos seus resultados nos procedimentos administrativos, em especial se são ou não directamente decisorios de eles».

Disposição derradeiro segunda. Desenvolvimento regulamentar

Autoriza-se o Conselho da Xunta para ditar as disposições para o desenvolvimento regulamentar desta lei.

Disposição derradeiro terceira. Entrada em vigor

Esta lei entrará em vigor aos vinte dias naturais da sua publicação no Diário Oficial da Galiza.

Santiago de Compostela, dois de abril de dois mil vinte e cinco

Alfonso Rueda Valenzuela
Presidente