Ekonomi
Tether, bulut ihtiyacını tamamen ortadan kaldırabilen medikal yapay zekâsını tanıttı
Tether'in Yapay Zekâ Araştırma Grubu, doğrudan akıllı telefonlarda, giyilebilir
cihazlarda ve sınırlı işlem gücüne sahip diğer cihazlarda çalışmak üzere tasarlanan
yeni nesil medikal dil modeli QVAC MedPsy'ı tanıttı.
Sistem, yerel ve gizliliği koruyan yapısını sürdürürken performans açısından çok
daha büyük modellerle rekabet ediyor, bazı senaryolarda ise onları geride bırakıyor.
Performansı yalnızca model boyutunu büyüterek artırmak yerine verimliliğe
odaklanan bu yaklaşım, işlem gücü ihtiyacını azaltarak uzak bulut altyapılarına
duyulan bağımlılığı minimuma indiriyor. Günümüzde birçok yapay zekâ sistemi
hâlâ uzak sunucularda çalışan büyük modellere dayanırken, bu durum hassas verilerin
bulut ortamlarında işlenmesini zorunlu kılıyor. Özellikle sağlık sektöründe
hasta kayıtları, teşhis süreçleri ve klinik notlar gibi kritik verilerin sıkı
gizlilik ve uyumluluk kurallarına tabi olduğu düşünüldüğünde, mevcut mimarilerin
sürdürülebilirliği giderek daha fazla tartışılıyor. Yaklaşık 36 milyar dolar
büyüklüğündeki pazarın 2033 yılına kadar 500 milyar doların üzerine çıkmasının
öngörülmesi de, daha güvenli ve verimli sistemlere duyulan ihtiyacı artırıyor.
Bu lansman, yapay zekâ dünyasındaki en köklü varsayımlardan birine doğrudan meydan
okuyor: Daha yüksek performans için daha büyük modeller ve daha fazla işlem
gücü gerektiği anlayışına. QVAC MedPsy ise bu yaklaşımı tersine çeviriyor. Yalnızca
1,7 milyar parametreye sahip model, yedi farklı kapalı uçlu medikal benchmarkta
ortalama 62,62 puan alarak, kendisinden daha büyük olan Google'ın MedGemma
1.5-4B-it modelini 11,42 puan farkla geride bırakıyor. Gerçek dünya klinik senaryolarını
ölçen HealthBench Hard testinde ise model, yaklaşık 16 kat daha büyük
parametre yapısına sahip MedGemma 27B'yi dahi aşan performans sergiliyor.
QVAC MedPsy'ın 4 milyar parametreli versiyonu, yedi farklı kapalı uçlu benchmark
genelinde 70,54 puan elde ederek, MedGemma-27B-text dahil olmak üzere kendisinden
yaklaşık yedi kat daha büyük modelleri geride bıraktı. Model ayrıca HealthBench
Hard, HealthBench ve MedXpertQA gibi klinik odaklı değerlendirmelerde de dikkat
çekici performans sergiledi. Toplamda sekiz farklı benchmark seti üzerinden
gerçekleştirilen değerlendirmelerde, klinik bilgi ve tıbbi sınavlar için MedQA-USMLE
ve MedMCQA, sağlık okuryazarlığı için MMLU Health ve MMLU-Pro Health,
uzman klinik muhakeme için MedXpertQA, biyomedikal araştırma anlayışı için PubMedQA,
küresel sağlık sistemlerine yönelik AfriMedQA ve gerçek dünya klinik senaryolarını
ölçen HealthBench ile HealthBench Hard testleri kullanıldı. Elde edilen
performans artışı ise kapsamlı medikal denetim süreçleri, yüksek değerli klinik
muhakeme verileri ve zorlu medikal vaka analizlerine odaklanan reinforcement
learning tabanlı aşamalı eğitim yaklaşımından kaynaklanıyor.
Modeller, yüksek performansın yanı sıra çıkarım maliyetlerinde de ciddi verimlilik
sağlıyor. QVAC MedPsy 4B modeli, benzer sistemlerde kullanılan ortalama 2.953
token'a karşılık yalnızca yaklaşık 909 token ile yanıt üreterek 3,2 kat daha
düşük işlem yükü sunuyor. QVAC MedPsy 1.7B modeli ise yaklaşık 1.110 token kullanırken,
benzer modellerde bu rakam 1.901 seviyesinde kalıyor, bu da yaklaşık 1,7
katlık bir verimlilik avantajına işaret ediyor. Daha düşük token kullanımı,
daha hızlı yanıt süreleri ve bulut altyapısına ihtiyaç duymadan yerel çalışma imkânı
anlamına geliyor. Modeller ayrıca yerel kullanım için optimize edilen quantized
GGUF formatlarında da yayımlanıyor. Önerilen Q4_K_M sürümleri, QVAC MedPsy-1.7B
için yaklaşık 1,2 GB, QVAC MedPsy-4B için ise yaklaşık 2,6 GB boyutunda
bulunuyor. Yapılan testlerde bu sıkıştırılmış sürümlerin benchmark performansının
büyük bölümünü koruduğu ve modelleri mobil ile edge cihazlarda kullanılabilir
hale getirdiği görülüyor.
Tether olarak QVAC MedPsy'da odak noktamız verimliliği artırmak
QVAC MedPsy'e dair açıklamalarda bulunan Tether CEO'su Paolo Ardoino, Tether olarak
QVAC MedPsy'da odak noktamız model boyutunu büyütmek değil, model seviyesinde
verimliliği artırmaktı. Testlerimizde 1,7 milyar parametreli QVAC MedPsy modeli,
MedGemma-4B gibi daha büyük sistemleri geride bırakırken, 4 milyar parametreli
modelimiz de kendisinden yaklaşık yedi kat büyük modellerden daha iyi sonuçlar
verdi ve yanıt başına üç kata kadar daha az token kullandı. Bu kombinasyon
önemli çünkü doğrudan işlem gücü gereksinimini, gecikmeyi ve maliyeti azaltıyor.
Modelin uzak altyapılara bağlı kalmadan standart donanımlarda yerel olarak
çalışmasını sağlıyor. Sağlık sektöründe bu durum tüm sınırları değiştiriyor, medikal
muhakemeyi, verinin zaten bulunduğu yerde, yani bir hastane sistemi içinde
veya bir cihaz üzerinde, hassas bilgileri bulut üzerinden taşımadan ve harici
işlem beklemeden gerçekleştirebiliyorsunuz. dedi.
-iDeal Haber Merkezi-
- twitter.com/iDealDataHaber // www.idealdata.com.tr -
cihazlarda ve sınırlı işlem gücüne sahip diğer cihazlarda çalışmak üzere tasarlanan
yeni nesil medikal dil modeli QVAC MedPsy'ı tanıttı.
Sistem, yerel ve gizliliği koruyan yapısını sürdürürken performans açısından çok
daha büyük modellerle rekabet ediyor, bazı senaryolarda ise onları geride bırakıyor.
Performansı yalnızca model boyutunu büyüterek artırmak yerine verimliliğe
odaklanan bu yaklaşım, işlem gücü ihtiyacını azaltarak uzak bulut altyapılarına
duyulan bağımlılığı minimuma indiriyor. Günümüzde birçok yapay zekâ sistemi
hâlâ uzak sunucularda çalışan büyük modellere dayanırken, bu durum hassas verilerin
bulut ortamlarında işlenmesini zorunlu kılıyor. Özellikle sağlık sektöründe
hasta kayıtları, teşhis süreçleri ve klinik notlar gibi kritik verilerin sıkı
gizlilik ve uyumluluk kurallarına tabi olduğu düşünüldüğünde, mevcut mimarilerin
sürdürülebilirliği giderek daha fazla tartışılıyor. Yaklaşık 36 milyar dolar
büyüklüğündeki pazarın 2033 yılına kadar 500 milyar doların üzerine çıkmasının
öngörülmesi de, daha güvenli ve verimli sistemlere duyulan ihtiyacı artırıyor.
Bu lansman, yapay zekâ dünyasındaki en köklü varsayımlardan birine doğrudan meydan
okuyor: Daha yüksek performans için daha büyük modeller ve daha fazla işlem
gücü gerektiği anlayışına. QVAC MedPsy ise bu yaklaşımı tersine çeviriyor. Yalnızca
1,7 milyar parametreye sahip model, yedi farklı kapalı uçlu medikal benchmarkta
ortalama 62,62 puan alarak, kendisinden daha büyük olan Google'ın MedGemma
1.5-4B-it modelini 11,42 puan farkla geride bırakıyor. Gerçek dünya klinik senaryolarını
ölçen HealthBench Hard testinde ise model, yaklaşık 16 kat daha büyük
parametre yapısına sahip MedGemma 27B'yi dahi aşan performans sergiliyor.
QVAC MedPsy'ın 4 milyar parametreli versiyonu, yedi farklı kapalı uçlu benchmark
genelinde 70,54 puan elde ederek, MedGemma-27B-text dahil olmak üzere kendisinden
yaklaşık yedi kat daha büyük modelleri geride bıraktı. Model ayrıca HealthBench
Hard, HealthBench ve MedXpertQA gibi klinik odaklı değerlendirmelerde de dikkat
çekici performans sergiledi. Toplamda sekiz farklı benchmark seti üzerinden
gerçekleştirilen değerlendirmelerde, klinik bilgi ve tıbbi sınavlar için MedQA-USMLE
ve MedMCQA, sağlık okuryazarlığı için MMLU Health ve MMLU-Pro Health,
uzman klinik muhakeme için MedXpertQA, biyomedikal araştırma anlayışı için PubMedQA,
küresel sağlık sistemlerine yönelik AfriMedQA ve gerçek dünya klinik senaryolarını
ölçen HealthBench ile HealthBench Hard testleri kullanıldı. Elde edilen
performans artışı ise kapsamlı medikal denetim süreçleri, yüksek değerli klinik
muhakeme verileri ve zorlu medikal vaka analizlerine odaklanan reinforcement
learning tabanlı aşamalı eğitim yaklaşımından kaynaklanıyor.
Modeller, yüksek performansın yanı sıra çıkarım maliyetlerinde de ciddi verimlilik
sağlıyor. QVAC MedPsy 4B modeli, benzer sistemlerde kullanılan ortalama 2.953
token'a karşılık yalnızca yaklaşık 909 token ile yanıt üreterek 3,2 kat daha
düşük işlem yükü sunuyor. QVAC MedPsy 1.7B modeli ise yaklaşık 1.110 token kullanırken,
benzer modellerde bu rakam 1.901 seviyesinde kalıyor, bu da yaklaşık 1,7
katlık bir verimlilik avantajına işaret ediyor. Daha düşük token kullanımı,
daha hızlı yanıt süreleri ve bulut altyapısına ihtiyaç duymadan yerel çalışma imkânı
anlamına geliyor. Modeller ayrıca yerel kullanım için optimize edilen quantized
GGUF formatlarında da yayımlanıyor. Önerilen Q4_K_M sürümleri, QVAC MedPsy-1.7B
için yaklaşık 1,2 GB, QVAC MedPsy-4B için ise yaklaşık 2,6 GB boyutunda
bulunuyor. Yapılan testlerde bu sıkıştırılmış sürümlerin benchmark performansının
büyük bölümünü koruduğu ve modelleri mobil ile edge cihazlarda kullanılabilir
hale getirdiği görülüyor.
Tether olarak QVAC MedPsy'da odak noktamız verimliliği artırmak
QVAC MedPsy'e dair açıklamalarda bulunan Tether CEO'su Paolo Ardoino, Tether olarak
QVAC MedPsy'da odak noktamız model boyutunu büyütmek değil, model seviyesinde
verimliliği artırmaktı. Testlerimizde 1,7 milyar parametreli QVAC MedPsy modeli,
MedGemma-4B gibi daha büyük sistemleri geride bırakırken, 4 milyar parametreli
modelimiz de kendisinden yaklaşık yedi kat büyük modellerden daha iyi sonuçlar
verdi ve yanıt başına üç kata kadar daha az token kullandı. Bu kombinasyon
önemli çünkü doğrudan işlem gücü gereksinimini, gecikmeyi ve maliyeti azaltıyor.
Modelin uzak altyapılara bağlı kalmadan standart donanımlarda yerel olarak
çalışmasını sağlıyor. Sağlık sektöründe bu durum tüm sınırları değiştiriyor, medikal
muhakemeyi, verinin zaten bulunduğu yerde, yani bir hastane sistemi içinde
veya bir cihaz üzerinde, hassas bilgileri bulut üzerinden taşımadan ve harici
işlem beklemeden gerçekleştirebiliyorsunuz. dedi.
-iDeal Haber Merkezi-
- twitter.com/iDealDataHaber // www.idealdata.com.tr -