Whitesnake on Nostr: # Na campo das IAs estamos caminhando mais rápido do que podemos interpretar. Boa ...

# Na campo das IAs estamos caminhando mais rápido do que podemos interpretar.


Boa noite amigos do Nostr, recentemente a start up Antropic público seu estudo sobre os mecanismos internos de seu modelo de inteligência em diversos artigos e o que me chama a atenção é que de fato o volume de dados gerados durante a aprendizagem da IA não dá para os próprios desenvolvedores tenha acesso a tudo e façam sua interpretação. Assim eles estudaram como um microscópio pequenos processos e os resultados foram reveladores. Segue a citação:

"Modelos de linguagem como Claude não são programados diretamente por humanos — em vez disso, eles são treinados em grandes quantidades de dados. Durante esse processo de treinamento, eles aprendem suas próprias estratégias para resolver problemas. Essas estratégias são codificadas nos bilhões de cálculos que um modelo realiza para cada palavra que escreve. Eles chegam inescrutáveis ​​para nós, os desenvolvedores do modelo. Isso significa que não entendemos como os modelos fazem a maioria das coisas que eles fazem."

#Em outra parte do artigo é perceptível a Emergência de habilidades que não estavam programados.

"Muitas vezes ficamos surpresos com o que vimos no modelo: no estudo de caso de poesia, tínhamos nos proposto a mostrar que o modelo não planejava com antecedência, e descobrimos que ele planejava."

# Se não sabe como funciona ou não tem acesso direto, como controlar?

Caso um IA com desenvolvimento excusos venha a se desenvolver no momento que estamos ela já seria capaz de fugir das amarras humanas, haja vista, que os próprios desenvolvedores não sabem ao certo das emergências que elas podem desenvolver ou mesmo sejam capazes de digerir todos os dados da etapa de aprendizagem.

E vocês o que acham?


https://www.anthropic.com/research/tracing-thoughts-language-model