O modelo ôntico da Reka AI, Rho-1, processa texto, imagens, vídeo e controle robótico em um único modelo
decoder ·
A Reka AI lançou uma prévia de pesquisa do Rho-1, um modelo onimodular com 19 bilhões de parâmetros capaz de processar e gerar texto, imagens, vídeo e ações de controle robótico em uma única rede neural. Diferente dos sistemas tradicionais que dependem de modelos especializados ou chamadas a ferramentas externas, o Rho-1 trata todas as modalidades como tokens em uma janela de contexto compartilhada. O modelo pode gerar vídeos contínuos em tempo real e adaptar-se a novas instruções sem necessidade de reinicialização. Para enfrentar a escassez de dados de treinamento para robôs, a Reka AI desenvolveu um modelo de dinâmica inversa que extrai sinais de controle a partir de vídeos padrão da internet. Os mesmos pesos usados para prever imagens de câmera são também utilizados para impulsionar movimentos robóticos. O treinamento exigiu 320 GPUs H100 ao longo de aproximadamente três meses. Este lançamento segue o lançamento anterior da Reka AI, o Reka Core, em abril de 2024, que competia com grandes modelos de linguagem multimodais. O desenvolvimento está alinhado com a tendência mais ampla da indústria de criar modelos de mundo abrangentes.
decoder