Mais

    PCs Intel Core Ultra obtêm modelos de IA mais otimizados, incluindo difusão estável

    A revolução da IA ​​generativa concentrou-se principalmente na execução de modelos de IA grandes e complexos em datacenters de servidores. Alguns modelos de IA são otimizados o suficiente para rodar em computadores típicos, e a Intel está fazendo algum progresso nisso.



    A Intel anunciou hoje que existem agora mais de 500 modelos de IA otimizados para seus novos processadores Intel Core Ultra, que foram revelados em dezembro e começaram a aparecer em novos laptops PC. Essa lista provavelmente inclui muitos modelos experimentais e de teste que não servem a um propósito prático para a maioria das aplicações, mas existem alguns grandes: Phi-2, modelo Lllama da Meta, Mistral, Bert, Whisper e Stable Diffusion 1.5.

    A Intel disse em um comunicado à imprensa: “Os modelos formam a espinha dorsal dos recursos de software aprimorados por IA, como remoção de objetos, super resolução de imagem ou resumo de texto. Existe uma ligação direta entre o número de modelos habilitados/otimizados e a variedade de recursos de IA voltados para o usuário que podem ser lançados no mercado. Sem um modelo, o recurso não pode ser projetado. Sem otimização do tempo de execução, o recurso não pode atingir seu melhor desempenho.”


    A maioria (se não todos) desses modelos de IA pode ser executada em hardware que não seja da Intel, mas adicionar suporte para os recursos de hardware mais recentes específicos dos chips mais recentes da Intel os torna mais práticos para uso no mundo real. Por exemplo, a Intel disse que o processo de otimização do modelo OpenVINO AI incluía “balanceamento de carga em todas as unidades de computação, compactando os modelos para rodar com eficiência em um PC AI e otimizando o tempo de execução para aproveitar a largura de banda da memória e a arquitetura central do Intel Core Ultra .”

    Modelos de aprendizado de máquina e IA executados localmente em computadores não são novidade, mas a execução de modelos generativos de IA mais recentes localmente em PCs tem alguns casos de uso interessantes. Você poderia ter algo como ChatGPT e Microsoft Copilot rodando inteiramente em seu próprio PC, eliminando potencialmente as preocupações com privacidade e requisitos de conectividade de rede que acompanham o envio de dados imediatos para servidores externos. O chatbot local ChatRTX da NVIDIA é um passo nessa direção, mas ainda é experimental e requer um PC com uma poderosa placa gráfica da série RTX 30 ou 40.


    A Intel espera que o software que usa esses modelos otimizados possa levar as pessoas a comprar computadores mais novos com processadores Core Ultra. Por enquanto, porém, ferramentas de IA baseadas em nuvem, como ChatGPT e Copilot, não vão a lugar nenhum.

    Fonte: Informações

    Recent Articles

    spot_img

    Related Stories

    DEIXE UMA RESPOSTA

    Por favor digite seu comentário!
    Por favor, digite seu nome aqui

    Stay on op - Ge the daily news in your inbox