Nvidia CEO'su Jensen Huang kompakt yapay zeka bilgisayarını tanıttı

Nvidia CEO'su Jensen Huang, yapay zeka uygulamalarını yerel olarak çalıştırmak için kullanılabilecek yeni Jetson Orin Nano Super'ı tanıttı.

NVIDIA Jetson Orin Nano Geliştirici Kiti, giriş seviyesi AI destekli robotlar, akıllı dronlar ve akıllı kameralar oluşturmak için yeni bir standart belirliyor ve Jetson Orin Nano serisine başlamayı kolaylaştırıyor. Kompakt tasarım, çok sayıda konektör ve 40 TOPS'a kadar AI performansı, bu geliştirici kitini vizyoner konseptlerinizi gerçeğe dönüştürmek için mükemmel hale getiriyor. Jetson Nano'nun 80 katına kadar performansıyla, transformatör ve gelişmiş robotik modeller dahil olmak üzere tüm modern AI modellerini çalıştırabilir.

Geliştirici kiti, bir Jetson Orin Nano 8GB modülü ve tüm Orin Nano ve Orin NX modüllerini barındırabilen bir referans taşıyıcı kartından oluşuyor ve yeni nesil uç AI ürününüzün prototipini oluşturmak için ideal bir platform sağlıyor. Jetson Orin Nano 8GB modülü, bir Ampere GPU ve 6 çekirdekli bir ARM CPU'ya sahip olup, birden fazla eşzamanlı AI uygulama hattı ve yüksek performanslı çıkarım sağlıyor. Taşıyıcı kart, 4 şeride kadar kamera modüllerini destekleyen iki MIPI CSI konektörü de dahil olmak üzere çok çeşitli konektörlere sahiptir ve daha önce olduğundan daha yüksek çözünürlük ve kare hızı sağlar.

Jetson, NVIDIA AI yazılım yığınını, robotik için NVIDIA Isaac, görsel AI için DeepStream ve konuşma AI için Riva dahil olmak üzere mevcut kullanım durumuna özgü uygulama çerçeveleriyle çalıştırır. Sentetik veri üretimi (SDG) için NVIDIA Omniverse Replicator ve NGC kataloğundan önceden eğitilmiş AI modellerini ince ayar yapmak için NVIDIA TAO Toolkit ile önemli ölçüde zaman kazanabilirsiniz.

Ekosistem ortakları ek AI ve sistem yazılımları, geliştirici araçları ve özel yazılım geliştirme sunar. Ayrıca kameralar ve diğer sensörler ile ürününüz için taşıyıcı kartlar ve tasarım hizmetleri konusunda da yardımcı olabilirler.

Jetson Orin modülleri, robotlar ve diğer otonom makineler için performans ve verimlilik açısından eşsizdir ve size en son NVIDIA teknolojisiyle yeni nesil AI çözümleri oluşturma esnekliği sağlar. Dünya standartlarındaki NVIDIA AI yazılım yığını ve bir hizmet ve ürün ekosistemi ile birlikte pazara giden yolunuz hiç bu kadar hızlı olmamıştı.

Kaynak: Fortune

Nvidia'nın mini 'masaüstü süper bilgisayarı' bir dizüstü bilgisayardan Bin kat daha güçlü ve çantanıza sığabiliyor

Bilim insanları, bir süper bilgisayar kadar güçlü ancak çantanıza sığabilen yeni bir mini bilgisayar yarattılar.

"Project Digits" adlı yeni cihaz, yapay zeka (AI) ile çalışan geliştiriciler, araştırmacılar, öğrenciler ve veri bilimcileri için tasarlandı. Nvidia CEO'su Jensen Huang, Las Vegas'taki CES 2025'te yaptığı açıklamada, daha önce bulut üzerinden devasa veri merkezlerine erişmeyi gerektiren AI modellerini çalıştırmayı da içerdiğini duyurdu.

Ürün tasarımı henüz tamamlanmamış olsa da, masanıza veya hatta çantanıza sığacak kadar küçük olacak.

Cihaz, verileri aralarında taşımak için gereken süreyi azaltmak amacıyla tek bir çip üzerinde ayrı, bağlantılı bileşenler barındıran bir Nvidia GB10 Grace Blackwell Superchip ile çalışıyor.

Süper çip, 128 gigabayt bellek ve 4 terabayt SSD depolama ile paketlenmiş bir Nvidia Blackwell grafik kartı ve bir Nvidia Grace işlemcisine sahiptir.

Cihaz toplamda ortalama bir dizüstü bilgisayardan yaklaşık Bin kat daha güçlüdür.

Bilgisayarınızdan veya dizüstü bilgisayarınızdan 1000 kat daha güçlü bir mini PC
"NVIDIA'nın Project DIGITS'i, robotik, bilgisayarlı görüş ve otonom sistemlerdeki araştırmacıların çözümleri her zamankinden daha hızlı deneyip, ince ayar yapıp ölçeklendirmelerini sağlıyor - hepsi masanıza sığarken," dedi Toronto Üniversitesi'nde bilgisayar bilimi profesörü ve otonom araç şirketi Waabi'nin kurucusu Raquel Urtasun bir açıklamada. Waabi, otonom araç filosunda Nvidia'nın teknolojisini kullanıyor. "Project DIGITS'in hangi atılımları sağlayacağını görmek için heyecanlıyım."

Süper bilgisayar gücü, saniye başına kayan nokta işlemleri (FLOPS) ile ölçülür. Dünyanın en güçlü süper bilgisayarları 1.000 petaFLOPS'un biraz üzerinde güç (1 kentilyon FLOPS) sağlar. IBM'e göre bu onları dizüstü bilgisayarlardan 1 milyon kat daha güçlü yapar.

Buna karşılık Project Digits 1 petaFLOPS güç sağlayabilir. En iyi süper bilgisayarlarla eşleşemez, ancak çoğu masaüstü PC ve dizüstü bilgisayardan çok daha güçlüdür ve önemli ölçüde daha küçük bir kasaya sığabilir.

Bu "masaüstü süper bilgisayarı" kullanarak araştırmacılar, 200 milyara kadar parametre kullanan büyük dil modelleri (ChatGPT gibi üretken AI araçları) çalıştırabilirken, 405 milyar parametreye ulaşmak için iki Project DIGITS cihazı bağlanabilir. Referans olarak, Kasım 2022'de piyasaya sürüldüğünde ChatGPT'nin ilk sürümüne güç veren GPT-3.5, yaklaşık 175 milyar parametre boyutundaydı ve her parametre, bir modelin metni nasıl işlediğini ve ürettiğini kontrol eden bir değişkendi.

Kaynak: Live Science