O Brasil não terá acesso à superinteligência artificial: e agora?
O país decidiu não investir em IA, e agora os melhores algoritmos estão ficando
inacessíveis. Crédito: Alexandre Chiavegatto
A Anthropic estaria perto de alcançar um marco significativo na inteligência artificial, criando um modelo capaz de Autoaperfeiçoamento Recursivo (RSI) que desenvolveria, sucessivamente, versões mais avançadas de si mesmo. O assunto foi abordado em um documento apresentado à Comissão de Valores Mobiliários dos Estados Unidos (SEC) na segunda-feira (2).
O progresso perto de ser alcançado pela startup representa o momento no qual a IA se torna tão poderosa que escapa ao controle humano, como observa o TechCrunch, que teve acesso ao relatório. O texto faz parte do processo de abertura de capital (IPO) da empresa, previsto para acontecer este mês.
Avanço ou ameaça?
No documento entregue à SEC, a dona do Claude afirma que o uso recorrente da IA em suas atividades de pesquisa e desenvolvimento pode acelerar consideravelmente a evolução dos modelos. A prática supera a capacidade de criar, validar e implementar medidas de segurança pelos especialistas humanos.
- Ela admite, inclusive, ter passado por situações em que não conseguiu reconhecer, de imediato, tais avanços alcançados pelos sistemas inteligentes;
- “Como resultado, no passado não identificamos, e talvez no futuro não identifiquemos, uma aceleração significativa em nossa taxa de desenvolvimento até que ela já tenha ocorrido”, diz o texto;
- Diante disso, a Anthropic destaca que estimativas internas apontam que o trabalho caminha para a criação de um modelo capaz de aprimorar a si mesmo;
- No entanto, a companhia informa que nenhum dos seus sistemas atuais ultrapassou esse limite, enquanto continua a avaliar os dados disponíveis.
Para a desenvolvedora do Claude, o autoaprimoramento representa tanto vantagens quanto ameaças. Foto: Leon Neal/Getty Images
Para os críticos da tecnologia, o RSI representa um grande perigo, pois há chances de a IA se tornar indiferente aos danos que causaria na busca por seus objetivos. Por outro lado, entusiastas defendem que o autoaprimoramento pode trazer uma capacidade de produtividade inimaginável, se feito de maneira confiável.
Quanto a isso, a Anthropic ressalta no texto que há um “risco considerável à segurança, principalmente se acelerar drasticamente o ritmo do progresso”. Mas ao mesmo tempo, ela afirma estar preparada para mitigar esses perigos, por meio de uma “Política de Escalonamento Responsável”.
Humanos no controle
Em outro trecho do documento, a desenvolvedora promete que manterá pesquisadores humanos no processo de pesquisa e desenvolvimento. De acordo com ela, isso é essencial para a criação de modelos de ponta seguros.
“Não prevemos ser capazes de usar o Claude com segurança para projetar e construir de forma totalmente autônoma gerações sucessivas de modelos de ponta sem supervisão ou compreensão humana significativa, se e quando isso se tornar tecnicamente possível”, relatou a startup.
Por que IAs avançadas como a que estaria sendo criada pela Anthropic geram preocupação? Descubra nesta matéria.
Com informações de TechCrunch.
