ChatGPT e Inteligência Artificial - Benefícios, Prós e Potenciais Perigos

Você conhece o ChatGPT?

Este é um programa gratuito (até agora), idealizado pela empresa OpenAI. Ele funciona no navegador e não é preciso instalar nenhum APP, somente fazer um cadastro/inscrição.

Foi lançado em novembro de 2022, e em apenas dois meses, alcançou a marca de 100 milhões de usuários. A sigla GPT significa “Generative Pre-Trained Transformer”.

Como a tradução não fará sentido, “Transformer” é a arquitetura usada para fazer o programa. “Generative Pre-Trained” quer dizer que o software foi treinado para predizer a próxima palavra em uma determinada sequência (frase), de acordo com o contexto.

O GPT-4 é a mais recente versão do ChatGPT. Você faz uma pergunta, o GPT-4 fornece uma resposta, baseada em um banco de dados imenso, que conta com feedback de usuários.

É um “modelo de linguagem” conversacional e interativo que está sendo constantemente atualizado, capaz de “raciocinar” e seguir instruções, como se fosse um “humano robotizado”.

Para quê Serve e Como pode ser Útil?

Segundo usuários e a empresa, este recurso de inteligência artificial pode ser útil para:

• Ajudar na pesquisa e redação de conteúdo para artigos e matérias, independentemente do assunto / tópico
  

• Gerar e editar tarefas de redação de textos técnicos ou criativos junto com o usuário
  

• Auxiliar em pesquisas, tarefas e organização de atividades cotidianas
  

• Fornecer tutoriais e passo-a-passo dos mais variados assuntos
  

• Orientar e ajudar na elaboração de curriculuns personalizados, de acordo com área de atuação
  

• Resolver problemas matemáticos complexos com acuracidade, fornecendo até mesmo dicas para sua resolução
  

• Pode ser útil para apontar e corrigir eventuais erros em códigos e scripts (debug)
  

• Ele aceita que o usuário forneça imagens como input, e consegue gerar legendas e fazer a análise e classificação da imagem (no GPT-4)
  

• Receber dados, e responder às perguntas em diversos idiomas, inclusive servir como tradutor de textos escritos, ou em áudio

IA (AI) - Inteligência Artificial - O que É?

AI é a sigla de “Artificial Intelligence”. É como se fosse um cérebro-robô, que pode ser ensinado e treinado, memorizando e depois disponibilizando informações/dados.

Da mesma forma que nós aprendemos estudando, lendo, ouvindo os outros e observando ações e comportamentos, as inteligências artificiais são sistemas computacionais que aprendem. Diz-se que o Chat GPT é “o leitor mais voraz do mundo”.

Eles consultam dados existentes na web, recebem e armazenam inputs (entrada de dados) fornecidos pelos usuários, além de serem “treinados” usando as chamadas “redes neurais”.

Em tecnologias que usam IA, a qualidade da resposta depende das fontes de referência, da capacidade de processamento, da detecção de padrões, cálculo de probabilidades e de análises comparativas de dados.

Assim como Nós, as Inteligências Artificiais também Erram

Alguma vez você já fez uma pergunta a alguém, e ouviu uma resposta “nada a ver”, totalmente fora do contexto? É tão “do além” que você mesmo se questiona: “Mas o que foi que eu perguntei?!”

Isso também pode acontecer num Chat virtual como o GPT-4 (chatbot). A própria empresa deixa claro que podem ocorrer alguns problemas. E por diversos motivos.

Um deles é que o processamento de entrada e saída de dados é feito em tempo real, e tecnologias dependem de uma série de fatores, como conectividade, cálculo de probabilidades e capacidade de processamento.

Recomendação de Leitura

Para uma leitura interessante e uma análise bem mais técnica e aprofundada de como funciona o ChatGPT, recomendamos a leitura do artigo “What Is ChatGPT Doing … and Why Does It Work?”, escrito por Stephen Wolfram.

Quais Problemas / Erros Podem Ocorrer?

A OpenAI informa que a precisão das respostas do GPT-4 é dependente da tarefa a fazer e da pergunta feita, bem como da qualidade e diversidade dos dados armazenados na máquina.

O que isso quer dizer? Que quanto mais claras e objetivas forem as perguntas, mais “acertadas” e precisas serão as respostas.

O próprio site recomenda: “exponha sua preocupação de forma clara e concisa. Evite usar linguagem complexa ou jargões que o ChatGPT possa não entender.”

Limitações Conhecidas do Programa

Todo programa é construído com dados, parâmetros, regras, funções e variáveis.

Isto implica que todo processo tem uma dinâmica, dependente da programação e também da ação do usuário. A OpenAI faz conhecer algumas limitações do ChatGPT/GPT-4:

• Pode dar respostas estranhas, pois elas dependem do que a máquina “sabe”, e não do que o usuário conhece
  

• Pode dar respostas disparatas/diferentes à mesma pergunta, dependendo de que forma ela foi escrita/elaborada
  

• O programa é instruído a recusar responder questões “inapropriadas”, entretanto pode acontecer de fornecer respostas “esquisitas” ou tendenciosas
  

• O programa usa um API de moderação para bloquear ou alertar sobre conteúdos não-seguros, mas é esperado que aconteçam falsos positivos e negativos
  

• A OpenAI encoraja que os usuários relatem à empresa quaisquer ocorrências sobre respostas “prejudiciais”, para que possam constatar qual o problema e corrigi-lo
  

Alertas aos Riscos de Uso do ChatGPT

Como vimos, essa nova tecnologia foi (e vai continuar sendo ) um “boom” na web. Malfeitores, cientes disso, já estão aplicando golpes de Phishing.

Mas usos mais sombrios e perigosos são um motivo de alerta para a Cyber Segurança, e também para as empresas:

• Hackers podem obter a ajuda do chatbot para elaborar/aprimorar códigos maliciosos e encontrar informações sobre vulnerabilidades
  

• Malfeitores têm aplicados golpes de Phishing, através do anúncio de “novos recursos” do programa, ou de links para download de falsas “novas versões”
  

• A empresa, em sua Política de Privacidade, informa que seus dados de contato, de atividades, de localização, dentre outros, podem ser compartilhados com afiliados (terceiros). Isto significa que sempre haverá risco de vazamento de dados
  

• Os recursos de tradução e redação de textos estão sendo usados por cybercriminosos para corrigir erros gramaticais ou de concordância, melhorando os golpes de Phishing
  

• Códigos maliciosos podem ser inseridos nos inputs, tornando a plataforma mais um meio para envio de malwares através da internet
  

Orientações para sua Segurança - O que Não Fazer no ChatGPT

• Tudo que você digita, ou seja, toda pergunta que você faz ao ChatGPT é um input (dado armazenado num database). Portanto, nunca digite/forneça dados pessoais
  

• Apesar da OpenAI garantir que a comunicação é criptografada (uso de protocolo HTTPs), a internet sempre vai ser um ambiente inseguro
  

• Não faça upload de fotos e imagens pessoais
  

• O ChatGPT não é Psicológo, Psiquiatra nem Terapeuta. Questões e perguntas de cunho pessoal/emocional devem ser tratadas com Profissionais da área
  

• O ChatGPT não é Médico, nem Professor. Sua saúde física e mental devem ser tratadas por verdadeiros Profissionais - Não se auto-medique
  

• Pense neste programa como uma enciclopédia moderna - como um recurso a mais, um complemento para seus próprios estudos e pesquisas
  

• Sempre navegue na internet de forma segura - usando conexão HTTPs, fazendo uso de softwares anti-virus e anti-malware e se preferência através de VPN
  

• Lembre-se de que quando a segurança de um sistema é forte, os ataques serão direcionados ao elo mais fraco - que somos nós!

NOS VEMOS NOS PRÓXIMOS POSTS!

Sites pesquisados: https://openai.com/blog/chatgpt; https://www.techradar.com/news/chatgpt-explained; https://itsecuritywire.com/featured/chatgpt-security-risks/