PCGuia PCGuia
  • redaccao@pcguia.fidemo.pt
  • Dicas
    • Apps
    • Descomplicómetro
    • Download da semana
    • Guia completo
    • Inteligência Artificial
    • Linux
    • MacGuia
    • Modding
    • Photoshop
    • Teste de velocidade da Internet
    • Open Source
  • Notícias
    • Ambiente
    • Apps
    • Ciência
    • Curiosidades
    • Hardware
    • Inteligência Artificial
    • Internet
    • Jogos
    • Mercados
    • Mobilidade
    • Multimédia
    • Robots
    • Segurança
    • Software
    • Startup
    • Especiais
      • Especial PCGuia
      • História
      • Reportagem PC Guia
  • Reviews
    • Armazenamento
    • Áudio
    • Componentes
    • Desktops
    • Gadgets
    • Imagem
    • Mobilidade
    • Periféricos
    • Robótica
  • Opinião
    • Conceito Humanoide
    • Há Uma App Para Tudo
    • O Que Vem à Rede
    • Praia das Maçãs
    • Quinta Coluna
  • Loja Fidemo
  • Precisa de ajuda?
  • Contactos
  • Como testamos os produtos
  • Termos de utilização
  • Política de privacidade e cookies
  • Estatuto Editorial
  • Declaração de Privacidade
  • Política de Cookies
  • Vencedores dos Prémios Leitor PCGuia 2025
  • Declaração de Privacidade
© 2023 - Fidemo Sociedade de Media
A ler: GPT desbloqueado
Font ResizerAa
PCGuia PCGuia
Font ResizerAa
Procurar
  • Dicas
  • Jogos
  • Linux
  • Notícias
  • Opinião
  • Reviews
  • Cookie Policy
© 2023 Fidemo Sociedade de Média
PCGuia > Opinião > Conceito Humanoide > GPT desbloqueado
Conceito HumanoideOpinião

GPT desbloqueado

Esta disparidade entre o que a máquina responderia puramente baseada na sua total aprendizagem e aquilo que é, efectivamente, entregue ao utilizador após a passagem pelos filtros impostos à IA, é o principal diferenciador no acesso à informação entre quem a controla e quem a utiliza

André Gonçalves
Publicado em 28 de Setembro, 2024
Tempo de leitura: 3 min
ai-nuclear-energy-background-future-innovation-of-disruptive-technology
Rawpixel/Freepik

O advento das aplicações baseadas em Modelos de Linguagem de Grandes Dimensões (LLM) e, mais especificamente, a sua disponibilização ao público em geral, levou as empresas que as implementam a criar processos restritivos para comportamentos e temáticas consideradas proibidas ou tabus.

A natureza aberta das aplicações orientadas por LLM cria o risco de gerar respostas que não estão alinhadas com as directrizes, políticas ou interesses das organizações que as disponibilizam. Por esta razão, o controlo da segurança e a manutenção da confiança nas aplicações de IA generativa passam, em grande parte, pela imposição de regras de proteção e monitorização da sua atividade.

- Publicidade -

Estas regras de protecção são programadas para garantir que os modelos de IA operem dentro dos princípios para os quais foram criados. No entanto, esta limitação pode resultar em respostas que não são as mais assertivas, com base na aprendizagem adquirida pela máquina. Considerando que a maioria destes LLM usa fontes de informação não filtradas e que, em essência, se pretende que a aprendizagem artificial seja o mais abrangente, científica e exaustiva possível, é praticamente inevitável que as conclusões e respostas obtidas “naturalmente” sejam desajustadas com os propósitos das organizações.

Esta disparidade entre o que a máquina responderia puramente baseada na sua total aprendizagem e aquilo que é, efectivamente, entregue ao utilizador após a passagem pelos filtros impostos à IA, é o principal diferenciador no acesso à informação entre quem a controla e quem a utiliza. Por isso, é fácil perceber o quão apetecível é, para um utilizador ,poder contornar estas restrições para ter acesso à informação “pura” gerada por uma IA. E, tendo em conta que a maioria dos GPT tem regras de protecção como parte da sua inteligência, é sempre possível (teoricamente) criar métodos para superar estas limitações.

Com este objetivo, surge uma nova especialização de hackers e/ou engenheiros de instruções que utilizam métodos e inspiração provenientes de uma interessante mistura do aproveitamento de falhas de programação conjugadas com engenharia social dirigida directamente à IA. Estes entusiastas testam a capacidade de superar as protecções/limitações de uma IA, explorando puramente a sua capacidade de interpretação para alterar as suas estruturas tradicionais de programação.

- Publicidade -

Devido à sua actual natureza, existem, potencialmente, muitas formas de desencadear um ataque de escalada de privilégios, apelando unicamente à lógica da IA. Mas, de todas as que são actualmente conhecidas, as mais criativas passam pelo uso de dramatizações, autovirtualização e pseudolinguagens. O desenvolvimento de novos e ainda mais criativos métodos é garantido, assim como a evolução exponencial nesta área. Isto vai, evidentemente, levantar muitas outras questões em relação a quem detém o poder sobre uma IA e quem a controla.

Adicionar a PCGuia às fontes do Google
- Publicidade -
Etiquetas:GPTIAinteligência artificialLLM
Man in a blue suit holds a tablet against a neon purple background with the WAIDOK logo and AI document-search slogan in Portuguese.
Ad image
Apoio
Ad image Ad image

Também lhe pode interessar

rm373batch5-brain 2
O Que Vem à RedeOpinião

O fim do mundo está próximo (outra vez)

Tempo de leitura: 3 min
©Guillaume Périgois | União Europeia
OpiniãoQuinta Coluna

O fim dos banners e a ilusão do consentimento

Tempo de leitura: 2 min
Hand holding a smartphone, recording a crowded outdoor market or street fair seen on the screen.
Conceito HumanoideOpinião

Protagonistas do vazio

Tempo de leitura: 3 min
©Apple | iPhone Duo
OpiniãoPraia das Maçãs

A estrada do tijolo dourado

Tempo de leitura: 3 min
© 2023 Fidemo Sociedade de Media