Basit bir sensör tabanlı Nesnelerin İnterneti (IoT) cihazı tasarlamak zor değildir ancak uç makine öğrenimi (ML) işleme yeteneklerine sahip bir IoT cihazı oluşturmak tamamen farklı bir konudur. NXP Semiconductors tarafından başlatılan özel işlemci serisi, geliştirme kartları ve beraberindeki yazılımlar, işlevsellik, performans ve geliştirmedeki temel zorlukları çözmeyi amaçlayarak, endüstriyel ve IoT uygulamalarında karmaşık uç yapay zeka (AI) işlevlerinin daha hızlı konuşlandırılmasına yardımcı olur.
Tasarımcılar, bulut kaynaklarına güvenmeden düşük güçlü cihazlarda makine öğrenimi çıkarımı gerçekleştirebilen uç yapay zeka çözümlerini kullanmaya başladı. Uyandırma sözcüğü algılama, sensör veri modeli analizi ve temel nesne algılama gibi işlevler, genellikle ML modellerini (model optimizasyon araçları ve çerçeveleri kullanılarak oluşturulmuş) çalıştıran enerji açısından verimli işlemciler tarafından gerçekleştirilebilir. Ancak işlemci kaynaklarını daha karmaşık sorunları, özellikle de gerçek zamanlı veya neredeyse gerçek zamanlı yanıt gerektiren sorunları çözmek için genişletmeye çalıştığınızda darboğazlar ortaya çıkar.
Çok çekirdekli işlemciler makine öğrenimi çıkarımını nasıl önemli ölçüde hızlandırır?
NXP Semiconductors, i.MX 93 serisi uygulama işlemcileriyle, ortaya çıkan bu gerçek zamanlı uç yapay zeka tasarımlarının işlevsel ve performans zorluklarını kolayca çözebilir (Şekil 1).
Şekil 1: i.MX 93 uygulama işlemcisi, işlem kaynaklarını, güvenlik sistemlerini, belleği ve eksiksiz bir saat, zamanlayıcı, bağlantı seçenekleri ve arayüz yelpazesini entegre ederek uç yapay zeka tasarımının temelini oluşturur. (Resim kaynağı: NXP Semiconductors)
Bu işlemci serisi multimedya, depolama, arayüzler ve bağlantı seçenekleri gibi zengin özellikleri bir araya getirir ve göz alıcı işlem kaynaklarını birleştirir:
Linux tabanlı uygulama işleme görevleri için iki adede kadar yüksek performanslı Arm Cortex-A55 uygulama işlemci çekirdeği
Düşük gecikme süreli, gerçek zamanlı kontrol işleme için ultra düşük güçlü Arm Cortex-M33 platformu
ML çıkarımının verimli bir şekilde yürütülmesi için bir Arm Ethos-U65 microNPU sinir işleme birimi (NPU)
NXP'nin entegre EdgeLock Secure Enclave (ESE), güvenli önyükleme ve anahtar yönetimi, gerçek zamanlı şifreleme ve uç uygulamaları korumak için gereken diğer özellikler için bir güven kökü sağlar
Bu işlemcilerin yeteneklerinden yararlanılarak, büyük uç yapay zeka uygulamaları kolaylıkla yönetilebilen birden fazla parçaya bölünebilir: NPU'lar yoğun sinir ağı algoritmalarının hesaplama görevlerini üstlenerek Cortex-A55 çekirdekleri üzerindeki yükü azaltır ve çalışan uygulama kodu kaynaklarının önceden alınmasını önler. Aynı zamanda, Cortex-M33 çekirdeği, sensör verilerinin toplanması veya süreç kontrolü gibi düşük gecikme süreli görevlerin işlenmesine odaklanmaya devam ederken yerleşik ESE, tüm süreç boyunca sistem güvenliğini, yazılım kodunu ve kritik verileri korur. Aşağıda NPU'nun, neredeyse gerçek zamanlı duyarlı uç yapay zeka uygulamaları elde etmek için önemli bir destek olan Cortex-A55 çekirdeğinden makine öğrenimi çıkarımını boşaltma yeteneği tanıtılacaktır.
Donanım geliştirme kartları ve yazılım, uygulama geliştirmeyi nasıl hızlandırır?
İşlemcinin işlevselliği ve performansı çok önemli olsa da uç yapay zeka uygulamalarının verimli bir şekilde geliştirilmesi, işlemcinin özelliklerini hızlı bir şekilde kavrama ve etkili yazılımı hızlı bir şekilde oluşturma becerisine daha çok bağlıdır. NXP'nin FRDM-IMX93 geliştirme kartı (Şekil 2), beraberindeki yazılım geliştirme kaynaklarıyla birlikte uygulama oluşturmaya başlamak için gereken her şeyi sağlayabilir.