Projetar um dispositivo simples de Internet das Coisas (IoT) baseado em sensor não é difícil, mas construir um dispositivo IoT com recursos de processamento de aprendizado de máquina (ML) de ponta é uma questão completamente diferente. A série de processadores dedicados, placas de desenvolvimento e software acompanhante lançados pela NXP Semiconductors visam resolver os principais desafios de funcionalidade, desempenho e desenvolvimento, ajudando a implantar funções complexas de inteligência artificial (IA) de ponta com mais rapidez em aplicações industriais e IoT.
Os designers começaram a utilizar soluções de IA de ponta que podem realizar inferência de ML em dispositivos de baixo consumo de energia sem depender de recursos da nuvem. Funções como detecção de palavras de ativação, análise de padrões de dados de sensores e detecção básica de objetos normalmente podem ser gerenciadas por processadores com eficiência energética que executam modelos de ML (construídos usando ferramentas e estruturas de otimização de modelo). No entanto, surgem gargalos quando você tenta expandir os recursos do processador para lidar com problemas mais complexos, especialmente aqueles que exigem resposta em tempo real ou quase em tempo real.
Como os processadores multi-core aceleram significativamente a inferência de ML
A NXP Semiconductors, com seus processadores de aplicativos da série i.MX 93, pode facilmente enfrentar os desafios funcionais e de desempenho desses designs emergentes de IA de borda em tempo real (Figura 1).
Figura 1: O processador de aplicativos i.MX 93 integra recursos de processamento, sistemas de segurança, memória e uma gama completa de relógios, temporizadores, opções de conexão e interfaces, estabelecendo as bases para o design de IA de ponta. (Fonte da imagem: NXP Semiconductors)
Esta série de processadores integra recursos avançados, incluindo multimídia, armazenamento, interfaces e opções de conexão, e combina recursos de processamento atraentes:
Até dois núcleos de processador de aplicativos Arm Cortex-A55 de alto desempenho para tarefas de processamento de aplicativos baseados em Linux
Uma plataforma Arm Cortex-M33 de consumo ultrabaixo para processamento de controle em tempo real de baixa latência
Uma unidade de processamento neural (NPU) microNPU Arm Ethos-U65 para execução eficiente de inferência de ML
O EdgeLock Secure Enclave (ESE) integrado da NXP fornece uma raiz de confiança para inicialização segura e gerenciamento de chaves, criptografia em tempo real e outros recursos necessários para proteger aplicativos de borda
Ao aproveitar os recursos desses processadores, grandes aplicativos de IA de ponta podem ser divididos em várias partes facilmente gerenciáveis: NPUs assumem as tarefas computacionais de algoritmos de redes neurais densos, reduzindo a carga nos núcleos Cortex-A55 e evitando a preempção dos recursos do código do aplicativo em execução. Ao mesmo tempo, o núcleo Cortex-M33 continua focado no processamento de tarefas de baixa latência, como aquisição de dados de sensores ou controle de processos, enquanto o ESE integrado protege a segurança do sistema, o código do software e os dados críticos durante todo o processo. A seguir, será apresentada a capacidade do NPU de descarregar a inferência de aprendizado de máquina do núcleo Cortex-A55, que é um suporte fundamental para obter aplicativos de IA de ponta responsivos quase em tempo real.
Como placas de desenvolvimento de hardware e software aceleram o desenvolvimento de aplicativos
Embora a funcionalidade e o desempenho do processador sejam cruciais, o desenvolvimento eficiente de aplicações de IA de ponta depende mais da capacidade de compreender rapidamente as características do processador e construir rapidamente software eficaz. A placa de desenvolvimento FRDM-IMX93 da NXP (Figura 2), combinada com os recursos de desenvolvimento de software que a acompanham, pode fornecer tudo o que é necessário para começar a criar aplicações.