Os últimos 15 meses foram muito interessantes no meu dia a dia. Lembro que em setembro de 2022, um amigo-cliente (ou cliente-amigo, como queira) me disse ter ficado impressionado com uma ferramenta chamada GPT da Open AI e que eu deveria estar rapidamente conectado a ela. Olhei para ele com uma dose de desconfiança – afinal já tô nesse negócio de revolução digital desde 1998. Mas fui lá conferir……site feio, burocrático, sem UX…”isso deve ser mais uma novidade bate fofo“, pensei. Demorei mais que o recomendado para me cadastrar e acessar o tal GPT…..digitei o primeiro prompt “Me fale sobre você.” Depois passei a manhã maravilhado…….De lesmas marinhas e poesia personalizada para meus filhos…a coisa era incrível!
Até que ele encontrou a velha guarda….Minha mãe, uma senhora de mais de 70 anos, médica e analógica…..fez cara feia quando apresentei a bruxaria do GPT para ela…..e resolveu desafiá-lo…. “O que é Homeopatia Bio-FAO?” Um segundo depois o texto de três parágrafos estava lá……Especialidade da Homeopatia, criada pelo Dr. Sammuel Shinkdler da África do Sul em 2003…caracterizada por….
Fiquei maravilhado e mostrei a resposta para minha mãe que alertou: ótimo! só tem um problema: é tudo mentira!
Pois é…o GPT havia inventado tudo….Um texto bem crível mas totalmente mentiroso. Confabulation ou Hallucination são os termos referentes à geração de respostas que podem parecer plausíveis ou coerentes, mas que na verdade são fabricadas ou não têm suporte em fatos ou evidências concretas. Esse fenômeno pode ocorrer devido às limitações do modelo em compreender plenamente o contexto da pergunta ou por não ter acesso direto a fontes de informação atualizadas ou específicas, levando-o a “preencher as lacunas” com informações geradas internamente que parecem fazer sentido.
Esse é um dos..ou talvez o MAIOR perigo da AI. Inventar respostas para perguntas sinceras independente das consequências. Você pode imaginar o perigo de acreditar em absoluto nas respostas da AI? Mas, você pode imaginar os perigos de ignorarmos no nosso dia a dia os poderes da AI?
Esse será nosso desafio daqui para frente: equilibrar nosso potencial de expansão entre todo poder da AI e os riscos de acreditarmos cegamente em suas respostas sem checarmos os pontos críticos.
A solução, ao meu ver, é investir cada vez mais no poder humano da criatividade, feeling e interpretação cuidadosa de informações. Ao contrário do que parece, a importância do humano irá crescer muito. A originalidade e o talento irão se valorizar como nunca e serão eles que irão criar prompts, tarefas e check points para AI ser realmente uma ferramenta incrível.
Aí, agora você tá sabendo? Tudo isso aqui logo vai mudar!
