Perplexity, yapay zeka ajanlarını buluttan kullanıcıların kendi cihazlarına taşımaya odaklanan yeni ürünü Portable Computer'ı tanıttı. Nvidia ile yakın iş birliği içinde geliştirilen ürün, Perplexity'nin şubat ayında kullanıma sunduğu Computer platformunun tamamen yerel çalışan bir versiyonu olarak karşımıza çıkıyor. Portable Computer ilk etapta Nvidia'nın DGX Spark masaüstü süper bilgisayarında ve Nvidia RTX GPU'lara sahip Linux bilgisayarlarda çalışıyor. Yapay zeka modellerini, dosyaları, araçları ve web erişimini bir araya getiren Perplexity Computer, belge inceleme, veri analizi ve rapor hazırlama gibi çok aşamalı görevleri yerine getirebiliyor. Portable Computer ise bu deneyimi yerel modellere, çıkarım motoruna, araçlara, uygulama bağlantılarına ve güvenlik ortamına kadar kullanıcının kendi cihazına taşıyor. Böylece kullanılan modelin yanı sıra hem kullanıcının dosyaları hem de yapılan işlemler cihaz üzerinde kalabiliyor.Yerel çalışmalarda token maliyeti bulunmuyor Portable Computer'ın maliyet açısından dikkate değer bir çözüm sunduğunu söyleyebiliriz. Cihaz üzerinde gerçekleştirilen işlemler Perplexity'nin bulut kredilerini tüketmiyor. Başka bir deyişle ajan uzun süre boyunca dosya inceleyebilir veya analiz yapabilirken kullanılan tokenlar için ayrıca bir bulut kullanım ücreti oluşmuyor. Sistem tüm görevleri varsayılan olarak cihaz üzerinde başlatıyor. Yerel modelin yeterli olmadığı durumlarda ise daha güçlü bir bulut modelinden yardım alınabiliyor. Bu noktada Portable Computer'ın herhangi bir işlemi buluta göndermeden önce kullanıcıdan izin istediğini de belirtelim. Gizlilik açısından dikkat çeken bir diğer detay ise buluta gönderilecek içeriğin kişisel bilgiler açısından kontrol edilmesi ve hangi verilerin cihazdan çıkacağının kullanıcıya gösterilmesi. Buluttaki model yalnızca metin tabanlı yönlendirme sağlarken, kullanıcının yerel dosyalarına veya araçlarına doğrudan erişemiyor. Portable Computer'ın bağlantı özellikleri de tamamen yerel çalışan yapısına rağmen korunuyor. Şirketin paylaştığı bir demoda ajan, CSV formatındaki kullanıcı verilerini cihaz üzerinde analiz ettikten sonra sonuçları Slack kanalına gönderdi. Sistem ayrıca Google Drive, Gmail ve GitHub ile bağlantı kurabiliyor.Portable Computer hangi modelleri destekliyor? Portable Computer, kullanıma sunulduğu dönemde Qwen 3.8 27B ve Perplexity tarafından kendi ajan altyapısı için sonradan eğitilen PPLX 27B modelleriyle çalışabiliyor. Nvidia'nın Nemotron 3.5 Lightning modelinin de yakında desteklenmesi planlanıyor. Bu açıdan ürün, bulut tabanlı Computer platformunun sunduğu geniş model seçeneğine kıyasla şimdilik daha sınırlı bir model havuzuna sahip. Perplexity, yerel modellerin daha düşük kapasitesini göz önünde bulundurarak ajan altyapısını da buna göre yeniden tasarladı. Şirket, daha kısa sistem istemleri ve sınırlı sayıda temel araç kullanırken, farklı yetenekleri ihtiyaç halinde yüklenen "skills" olarak sisteme dahil ediyor. Gmail ve GitHub gibi bağlantılar da daha fazla token tüketen MCP sunucuları yerine daha kompakt komut satırı araçları şeklinde çalışıyor.Perplexity'nin kendi testlerine göre PPLX 27B modeli, şirketin 53 farklı bilgi işi görevinden oluşan Local Knowledge Work Bench testinde yüzde 85,4 puana ulaştı. Aynı altyapıda Qwen modeli yüzde 82,6 puan elde etti. Ancak bu sonuçların Perplexity'nin kendi geliştirdiği benchmark'a dayandığını da belirtelim. Şirket de daha küçük yerel modellerin özellikle zor akıl yürütme görevlerinde güçlü bulut modellerinin gerisinde kaldığını kabul ediyor. En az 24 GB VRAM gerekiyor Portable Computer şu anda Linux üzerinde Perplexity Pro, Max, Enterprise Pro ve Enterprise Max abonelerine sunuluyor. Windows desteğinin ise eylül ayında gelmesi planlanıyor. Ürünü çalıştırmak için en az 24 GB VRAM'e sahip bir Nvidia RTX GPU gerekiyor. Perplexity, GeForce RTX 3090 ve daha yeni modelleri bu gereksinimin yaklaşık başlangıç noktası olarak gösteriyor. Apple Silicon cihazlar ise şu an için yol haritasında yer almıyor.Görsel kaynak: ChatGPT