Como a Amazon pode usar chips AWS personalizados para acompanhar a Microsoft e o Google no campo da IA?
De acordo com a CNBC, a equipe da Amazon está projetando duas fichas, codinome Inferentia e treinamento, para treinamento e aceleração de inteligência artificial generativa.Esses chips fornecem uma opção alternativa para os clientes da Amazon Cloud Services AWS treinarem grandes modelos de idiomas em vez de processadores gráficos da NVIDIA.Atualmente, a aquisição de GPUs tornou -se cada vez mais difícil e cara, e esses chips personalizados podem fornecer aos clientes da AWS soluções alternativas para treinar grandes modelos de idiomas em chips nvidia.
O CEO da Amazon Cloud Technology, Adam Selipsky, disse em junho deste ano: "O mundo espera ter mais chips para inteligência artificial generativa, seja GPUs ou chips auto-desenvolvidos da Amazon que estamos projetando
No entanto, outras empresas tomaram medidas mais rápidas e investiram mais fundos para obter negócios com a onda de inteligência artificial generativa.Quando o Openai lançou o ChatGPT em novembro do ano passado, a Microsoft ganhou atenção generalizada para seus chatbots e investimentos de US $ 13 bilhões no OpenAI.A empresa rapidamente adicionou modelos generativos de inteligência artificial aos seus produtos e os fundiu em Bing em fevereiro deste ano.
No mesmo mês, o Google lançou seu próprio modelo de idioma em larga escala, Bard, e posteriormente investiu US $ 300 milhões no concorrente do Openai.
Não foi até abril que a Amazon anunciou o lançamento de sua própria série de modelos de idiomas (chamada Titan) e um serviço de cama para ajudar os desenvolvedores a usar o software generativo de aprimoramento de IA.
A Amazon não está usada para perseguir o mercado.A Amazon é usada para criar o mercado.Penso que, pela primeira vez em muito tempo, eles se encontraram em desvantagem e estão trabalhando duro para recuperar o atraso ", disse Chirag Dekate, vice -presidente de analista da Gartner.
A Meta lançou recentemente sua própria llama 2 maiores modelos.Este concorrente ChatGPT de código aberto agora pode ser testado na nuvem pública do Azure da Microsoft.
Os chips são 'verdadeira diferenciação'
Dekate afirmou que, a longo prazo, os chips personalizados da Amazon podem dar uma vantagem no campo da inteligência artificial generativa,
Eu acho que a verdadeira diferenciação está nos recursos técnicos que eles exercem, pois a Microsoft não possui chips personalizados para treinamento ou inferntia
A AWS começou silenciosamente a produzir chips personalizados já em 2013, usando um hardware especializado chamado Nitro, que agora é o chip da AWS mais vendido.A Amazon afirma que cada servidor da AWS tem pelo menos um, com um uso total de mais de 20 milhões.
Em 2015, a Amazon adquiriu a startup de chips israelense Annapurna Labs.Em 2018, a Amazon lançou o Chip Graviton, com sede em ARM, que é um concorrente de CPUs X86 de gigantes como AMD e Intel.
O ARM pode ser responsável por um dígito alto ou até 10% do total de vendas de servidores, com uma grande parte proveniente da Amazon.Portanto, eles estão indo muito bem em termos de CPU ", disse Stacy Rasgon, analista sênior da Bernstein Research.
Também em 2018, a Amazon lançou chips focados na inteligência artificial.Dois anos atrás, o Google anunciou o lançamento de sua primeira unidade de processador Tensor (TPU).A Microsoft ainda não anunciou que está desenvolvendo o chip Athena AI, que supostamente é desenvolvido em colaboração com a AMD.
Matt Wood, vice -presidente da Amazon Products, explicou os usos dos chips de treinamento e inferntia.
O aprendizado de máquina é dividido nesses dois estágios diferentes.Portanto, você treina modelos de aprendizado de máquina e depois inferiu esses modelos treinados ", disse Wood. Comparado a qualquer outro método de treinamento de modelos de aprendizado de máquina na AWS, o treinamento melhorou sua relação custo-benefício em aproximadamente 50%
Após o lançamento da Inferentia em 2019 (atualmente em sua segunda geração), o treinamento foi lançado pela primeira vez em 2021.
A Inferentia "fornece inferência de aprendizado de máquinas de alta e baixa taxa de baixo custo, alta e baixa latência, o que significa que, quando você insere um prompt em um modelo generativo de inteligência artificial, todas as previsões são processadas aqui para dar uma resposta", disse Wood.
No entanto, atualmente, a GPU da NVIDIA ainda é o rei em termos de modelos de treinamento.Em julho deste ano, a AWS lançou um novo hardware de aceleração de IA suportado pela NVIDIA H100.
Rasgon disse: "os chips da NVIDIA têm um enorme ecossistema de software e, nos últimos 15 anos, o ecossistema de software construído em torno deles foi incomparável por outras empresas. Atualmente, o maior vencedor da inteligência artificial é a Nvidia
Aproveitando as vantagens da nuvem
No entanto, o domínio em nuvem da AWS é um importante fator de diferenciação para a Amazon.
A Amazon não precisa de atenção extra.A Amazon já possui uma base de instalação em nuvem muito forte.Tudo o que eles precisam fazer é descobrir como permitir que os clientes existentes alavancem a inteligência artificial generativa para se estender às atividades de criação de valor ", disse Dekate.
Ao escolher a inteligência artificial generativa entre a Amazon, Google e Microsoft, milhões de clientes da AWS podem ser atraídos para a Amazon, pois já estão familiarizados com a Amazon e executam outros aplicativos e armazenam dados lá.
Mai Lan Tomsen Bukovec, vice -presidente da Aws Technology, explicou: "Esta é uma questão de velocidade. A rapidez com que essas empresas podem desenvolver essas aplicações generativas de inteligência artificial depende de como elas começam com dados no AWS e usam as ferramentas de computação e aprendizado de máquina que nósforneça para dirigir
De acordo com o Gartner Data, a AWS é o maior provedor de computação em nuvem do mundo, com uma participação de mercado de 40% em 2022. Embora o lucro operacional da Amazon tenha caído ano a ano por três trimestres consecutivos, a AWS ainda foi responsável por 70% dos US $ 7,7 bilhões da AmazonLucro operacional no segundo trimestre.De uma perspectiva histórica, a margem de lucro operacional da AWS é muito maior que o Google Cloud.
Além disso, a AWS também possui um portfólio crescente de ferramentas de desenvolvedor focadas na inteligência artificial generativa.Swami Sivasubramanian, vice -presidente de banco de dados, análise e aprendizado de máquina na AWS, disse: "Vamos voltar o relógio, mesmo antes do chatgpt. Não é como depois disso, de repente saímos com um plano porque você não pode projetar um novoChip Nesse rápido, muito menos estabelecer um serviço básico em 2 a 3 meses
A Bedlock pode fornecer aos clientes da AWS acesso a grandes modelos de idiomas desenvolvidos pela Aipic, estabilidade AI, AI21 Labs e Amazon Titan.Sivasubramanian disse: "Não acreditamos que um modelo governará o mundo. Queremos que nossos clientes tenham modelos de ponta de vários fornecedores porque eles escolherão as ferramentas certas para o trabalho certo
Um dos mais recentes produtos de inteligência artificial da Amazon é a AWS HealthScribe, lançada em julho e pretende ajudar os médicos a redigir resumos de visitar os pacientes usando inteligência artificial generativa.A Amazon também possui um centro de aprendizado de máquina chamado Sagemaker, que fornece serviços como algoritmos e modelos.
Outra ferramenta importante é o CodeWhisperer, que a Amazon diz que aumentou a velocidade de conclusão da tarefa dos desenvolvedores em uma média de 57%.No ano passado, a Microsoft também informou que sua ferramenta de codificação Github Copilot aprimorou a eficiência do trabalho.
Em junho deste ano, a AWS anunciou um investimento de US $ 100 milhões para estabelecer um centro de inovação de inteligência artificial generativa.Adam Selipsky, CEO da AWS, disse: "Temos muitos clientes que desejam tecnologia generativa de inteligência artificial, mas eles podem não necessariamente saber o que isso significa para eles em seu próprio contexto comercial. Portanto, introduziremos arquitetos de solução, engenheiros, estrategistas,e cientistas de dados para trabalhar com eles individualmente
Embora até agora tenha focado principalmente a AWS no desenvolvimento de ferramentas, em vez de construir concorrentes para o ChatGPT, um e -mail interno recentemente vazado mostra que o CEO da Amazon, Andy Jassy, está supervisionando diretamente uma nova equipe central que também está construindo modelos de grandes idiomas escaláveis.
Durante a teleconferência do Relatório Financeiro do segundo trimestre, Jia Xi afirmou que uma "parcela significativa" dos negócios da AWS agora é impulsionada pela inteligência artificial e seu apoio a mais de 20 serviços de aprendizado de máquina, com clientes como Philips, 3M, Old Mutual e HSBC.
O crescimento explosivo da inteligência artificial provocou uma série de preocupações de segurança, pois as empresas estão preocupadas com o fato de os funcionários incorporarem informações proprietárias nos dados de treinamento usados no modelo comum de linguagem grande.
Adam Selipsky disse: "Não sei dizer quantas empresas da Fortune 500 que contatei desativaram o ChatGPT. Portanto, através de nossos métodos generativos de inteligência artificial e serviços de cama, tudo o que você faz e usa através do Bedlock estará em seu próprio ambiente de nuvem privada virtual independente.
Atualmente, a Amazon está apenas acelerando a promoção da inteligência artificial generativa, alegando que "mais de 100000" clientes estão atualmente usando o aprendizado de máquina na AWS.Embora isso seja responsável apenas por uma pequena parte dos milhões de clientes da AWS, os analistas dizem que essa situação pode mudar.
Não vemos empresas dizendo: 'Oh, espere um minuto, a Microsoft já está liderando a inteligência artificial generativa.Vamos sair e mudar nossa estratégia de infraestrutura, movendo tudo para o Microsoftware.Se você já é um cliente da Amazon, provavelmente explorará o ecossistema da Amazon mais amplamente.
O CEO da Amazon Cloud Technology, Adam Selipsky, disse em junho deste ano: "O mundo espera ter mais chips para inteligência artificial generativa, seja GPUs ou chips auto-desenvolvidos da Amazon que estamos projetando
No entanto, outras empresas tomaram medidas mais rápidas e investiram mais fundos para obter negócios com a onda de inteligência artificial generativa.Quando o Openai lançou o ChatGPT em novembro do ano passado, a Microsoft ganhou atenção generalizada para seus chatbots e investimentos de US $ 13 bilhões no OpenAI.A empresa rapidamente adicionou modelos generativos de inteligência artificial aos seus produtos e os fundiu em Bing em fevereiro deste ano.
No mesmo mês, o Google lançou seu próprio modelo de idioma em larga escala, Bard, e posteriormente investiu US $ 300 milhões no concorrente do Openai.
Não foi até abril que a Amazon anunciou o lançamento de sua própria série de modelos de idiomas (chamada Titan) e um serviço de cama para ajudar os desenvolvedores a usar o software generativo de aprimoramento de IA.
A Amazon não está usada para perseguir o mercado.A Amazon é usada para criar o mercado.Penso que, pela primeira vez em muito tempo, eles se encontraram em desvantagem e estão trabalhando duro para recuperar o atraso ", disse Chirag Dekate, vice -presidente de analista da Gartner.
A Meta lançou recentemente sua própria llama 2 maiores modelos.Este concorrente ChatGPT de código aberto agora pode ser testado na nuvem pública do Azure da Microsoft.
Os chips são 'verdadeira diferenciação'
Dekate afirmou que, a longo prazo, os chips personalizados da Amazon podem dar uma vantagem no campo da inteligência artificial generativa,
Eu acho que a verdadeira diferenciação está nos recursos técnicos que eles exercem, pois a Microsoft não possui chips personalizados para treinamento ou inferntia
A AWS começou silenciosamente a produzir chips personalizados já em 2013, usando um hardware especializado chamado Nitro, que agora é o chip da AWS mais vendido.A Amazon afirma que cada servidor da AWS tem pelo menos um, com um uso total de mais de 20 milhões.
Em 2015, a Amazon adquiriu a startup de chips israelense Annapurna Labs.Em 2018, a Amazon lançou o Chip Graviton, com sede em ARM, que é um concorrente de CPUs X86 de gigantes como AMD e Intel.
O ARM pode ser responsável por um dígito alto ou até 10% do total de vendas de servidores, com uma grande parte proveniente da Amazon.Portanto, eles estão indo muito bem em termos de CPU ", disse Stacy Rasgon, analista sênior da Bernstein Research.
Também em 2018, a Amazon lançou chips focados na inteligência artificial.Dois anos atrás, o Google anunciou o lançamento de sua primeira unidade de processador Tensor (TPU).A Microsoft ainda não anunciou que está desenvolvendo o chip Athena AI, que supostamente é desenvolvido em colaboração com a AMD.
Matt Wood, vice -presidente da Amazon Products, explicou os usos dos chips de treinamento e inferntia.
O aprendizado de máquina é dividido nesses dois estágios diferentes.Portanto, você treina modelos de aprendizado de máquina e depois inferiu esses modelos treinados ", disse Wood. Comparado a qualquer outro método de treinamento de modelos de aprendizado de máquina na AWS, o treinamento melhorou sua relação custo-benefício em aproximadamente 50%
Após o lançamento da Inferentia em 2019 (atualmente em sua segunda geração), o treinamento foi lançado pela primeira vez em 2021.
A Inferentia "fornece inferência de aprendizado de máquinas de alta e baixa taxa de baixo custo, alta e baixa latência, o que significa que, quando você insere um prompt em um modelo generativo de inteligência artificial, todas as previsões são processadas aqui para dar uma resposta", disse Wood.
No entanto, atualmente, a GPU da NVIDIA ainda é o rei em termos de modelos de treinamento.Em julho deste ano, a AWS lançou um novo hardware de aceleração de IA suportado pela NVIDIA H100.
Rasgon disse: "os chips da NVIDIA têm um enorme ecossistema de software e, nos últimos 15 anos, o ecossistema de software construído em torno deles foi incomparável por outras empresas. Atualmente, o maior vencedor da inteligência artificial é a Nvidia
Aproveitando as vantagens da nuvem
No entanto, o domínio em nuvem da AWS é um importante fator de diferenciação para a Amazon.
A Amazon não precisa de atenção extra.A Amazon já possui uma base de instalação em nuvem muito forte.Tudo o que eles precisam fazer é descobrir como permitir que os clientes existentes alavancem a inteligência artificial generativa para se estender às atividades de criação de valor ", disse Dekate.
Ao escolher a inteligência artificial generativa entre a Amazon, Google e Microsoft, milhões de clientes da AWS podem ser atraídos para a Amazon, pois já estão familiarizados com a Amazon e executam outros aplicativos e armazenam dados lá.
Mai Lan Tomsen Bukovec, vice -presidente da Aws Technology, explicou: "Esta é uma questão de velocidade. A rapidez com que essas empresas podem desenvolver essas aplicações generativas de inteligência artificial depende de como elas começam com dados no AWS e usam as ferramentas de computação e aprendizado de máquina que nósforneça para dirigir
De acordo com o Gartner Data, a AWS é o maior provedor de computação em nuvem do mundo, com uma participação de mercado de 40% em 2022. Embora o lucro operacional da Amazon tenha caído ano a ano por três trimestres consecutivos, a AWS ainda foi responsável por 70% dos US $ 7,7 bilhões da AmazonLucro operacional no segundo trimestre.De uma perspectiva histórica, a margem de lucro operacional da AWS é muito maior que o Google Cloud.
Além disso, a AWS também possui um portfólio crescente de ferramentas de desenvolvedor focadas na inteligência artificial generativa.Swami Sivasubramanian, vice -presidente de banco de dados, análise e aprendizado de máquina na AWS, disse: "Vamos voltar o relógio, mesmo antes do chatgpt. Não é como depois disso, de repente saímos com um plano porque você não pode projetar um novoChip Nesse rápido, muito menos estabelecer um serviço básico em 2 a 3 meses
A Bedlock pode fornecer aos clientes da AWS acesso a grandes modelos de idiomas desenvolvidos pela Aipic, estabilidade AI, AI21 Labs e Amazon Titan.Sivasubramanian disse: "Não acreditamos que um modelo governará o mundo. Queremos que nossos clientes tenham modelos de ponta de vários fornecedores porque eles escolherão as ferramentas certas para o trabalho certo
Um dos mais recentes produtos de inteligência artificial da Amazon é a AWS HealthScribe, lançada em julho e pretende ajudar os médicos a redigir resumos de visitar os pacientes usando inteligência artificial generativa.A Amazon também possui um centro de aprendizado de máquina chamado Sagemaker, que fornece serviços como algoritmos e modelos.
Outra ferramenta importante é o CodeWhisperer, que a Amazon diz que aumentou a velocidade de conclusão da tarefa dos desenvolvedores em uma média de 57%.No ano passado, a Microsoft também informou que sua ferramenta de codificação Github Copilot aprimorou a eficiência do trabalho.
Em junho deste ano, a AWS anunciou um investimento de US $ 100 milhões para estabelecer um centro de inovação de inteligência artificial generativa.Adam Selipsky, CEO da AWS, disse: "Temos muitos clientes que desejam tecnologia generativa de inteligência artificial, mas eles podem não necessariamente saber o que isso significa para eles em seu próprio contexto comercial. Portanto, introduziremos arquitetos de solução, engenheiros, estrategistas,e cientistas de dados para trabalhar com eles individualmente
Embora até agora tenha focado principalmente a AWS no desenvolvimento de ferramentas, em vez de construir concorrentes para o ChatGPT, um e -mail interno recentemente vazado mostra que o CEO da Amazon, Andy Jassy, está supervisionando diretamente uma nova equipe central que também está construindo modelos de grandes idiomas escaláveis.
Durante a teleconferência do Relatório Financeiro do segundo trimestre, Jia Xi afirmou que uma "parcela significativa" dos negócios da AWS agora é impulsionada pela inteligência artificial e seu apoio a mais de 20 serviços de aprendizado de máquina, com clientes como Philips, 3M, Old Mutual e HSBC.
O crescimento explosivo da inteligência artificial provocou uma série de preocupações de segurança, pois as empresas estão preocupadas com o fato de os funcionários incorporarem informações proprietárias nos dados de treinamento usados no modelo comum de linguagem grande.
Adam Selipsky disse: "Não sei dizer quantas empresas da Fortune 500 que contatei desativaram o ChatGPT. Portanto, através de nossos métodos generativos de inteligência artificial e serviços de cama, tudo o que você faz e usa através do Bedlock estará em seu próprio ambiente de nuvem privada virtual independente.
Atualmente, a Amazon está apenas acelerando a promoção da inteligência artificial generativa, alegando que "mais de 100000" clientes estão atualmente usando o aprendizado de máquina na AWS.Embora isso seja responsável apenas por uma pequena parte dos milhões de clientes da AWS, os analistas dizem que essa situação pode mudar.
Não vemos empresas dizendo: 'Oh, espere um minuto, a Microsoft já está liderando a inteligência artificial generativa.Vamos sair e mudar nossa estratégia de infraestrutura, movendo tudo para o Microsoftware.Se você já é um cliente da Amazon, provavelmente explorará o ecossistema da Amazon mais amplamente.