isto é muito fixe. o gajo treinou um modelo de IA no seu MacBook hackeando o chip M4 da Apple.
- ele hackeou o acelerador de inferência da Apple (encontrado no chip m4) que o transformou numa mini transformer. - 80X mais eficiente do que as GPUs Nvidia A100 - custo = eletricidade para carregar o MacBook vs. alugar GPUs para $10Ks - pode ser usado para treinar, ajustar e executar modelos localmente o meu único comentário é que provavelmente é muito lento, mas mesmo assim é muito fixe - podes imaginar chips futuros (m6/7) que podem treinar muito mais rápido.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
isto é muito fixe. o gajo treinou um modelo de IA no seu MacBook hackeando o chip M4 da Apple.
- ele hackeou o acelerador de inferência da Apple (encontrado no chip m4) que o transformou numa mini transformer.
- 80X mais eficiente do que as GPUs Nvidia A100
- custo = eletricidade para carregar o MacBook vs. alugar GPUs para $10Ks
- pode ser usado para treinar, ajustar e executar modelos localmente
o meu único comentário é que provavelmente é muito lento, mas mesmo assim é muito fixe - podes imaginar chips futuros (m6/7) que podem treinar muito mais rápido.