Esta startup quer iniciar um momento de profundidade nos EUA
De lá O Momentum Open Source estourou em cena em janeiro, em janeiro. Alguns pesquisadores estão pressionando por abordagens mais abertas para a criação de IA que permita a distribuição de modelos em todo o mundo.
PrincipalUma startup especialista em IA descentralizada está atualmente treinando um modelo de linguagem maior chamado Intellect-3, usando novos tipos de aprendizagem por reforço para fontes sutis. Este modelo mostrará uma nova maneira de criar modelos competitivos de IA abertos, de tal forma que o modelo não dependa de grandes empresas de tecnologia, disse Vincent Weiser, CEO da organização.
Weiser diz que o AI World está atualmente dividido entre os modelos fechados dos EUA e aqueles que usam ofertas abertas da China. A inteligência da Technology Prime torna a IA democrática ao criar e modificar mais pessoas para si mesmas.
A melhoria dos modelos de IA não é mais apenas uma questão de dados de treinamento e rampas de cálculo. Os modelos de fronteira atuais usam aprendizagem por reforço para melhorar o processo de pré-treinamento. Quer alcançar a excelência do seu modelo em matemática, quer responder a questões jurídicas ou jogar sudoku? Ao praticar em tal ambiente, melhore você mesmo, onde poderá medir o sucesso e o fracasso.
“Esse ambiente de aprendizagem por reforço é realmente uma barreira para o aumento da capacidade”, disse-me Weiser.
A Prime Intellect criou uma estrutura que permite a qualquer pessoa criar um ambiente educacional reforçado e personalizado para uma tarefa específica. A empresa é uma combinação do melhor ambiente criado por sua própria equipe e comunidade que pode ajustar o Intellect -3.
Tentei rodar um ambiente para resolver o Wordle Puzzle, prime Intellect Researcher, construído por Will Brown, vendo as palavras resolvidas como um pequeno modelo (era mais sistemático que eu, para falar a verdade). Se eu fosse um pesquisador de IA, estava tentando melhorar um modelo, giraria um monte de GPUs e a prática do modelo se repetiria quando um algoritmo de aprendizado reforçado mudasse seu peso, transformando o modelo em um Wordle Master.
