Bonsai 27B é um modelo de raciocínio totalmente aberto que cabe em um iPhone

A PrismML comprimiu um modelo de IA de 27 bilhões de parâmetros para menos de 4 GB, pequeno o suficiente para rodar em um iPhone. Nos próprios benchmarks da empresa, a versão menor mantém 90 por cento do desempenho original, com as pontuações em matemática e programação quase sem alteração. A Apple estaria supostamente já testando a tecnologia de compressão, que poderia ajudá-la a diminuir a distância na IA embarcada no dispositivo. O artigo Bonsai 27B é um modelo de raciocínio totalmente aberto que cabe em um iPhone apareceu primeiro em The Decoder.