Ekonomi
Basın Bülteni- Red Hat öncülüğündeki iş birliği, güvenli yapay zekâ sistemleri için açık kaynaklı bir proje başlattı
Yeni işbirliği kapsamındaki açık kaynak projesi, yapay zeka politika gereksinimleri
ile güvenli bir şekilde dağıtılan yapay zeka sistemleri arasındaki boşluğu
kapatmak üzere Red Hat, Alquimia AI, Brave Software, EvalEval koalisyonu, IBM Research,
Avusturya Disiplinlerarası Dönüşüm Üniversitesi, Microsoft, MIT Lincoln
Laboratuvarı, Kuzey Karolina Eyalet Üniversitesi, NVIDIA ve The Alan Turing Enstitüsü'nü
bir araya getiriyor.
Dünyanın lider açık kaynak çözümleri sağlayıcısı Red Hat, bugün yapay zeka yönetişim
politikalarının ürüne hazır, güvenli şekilde dağıtılan yapay zeka sistemlerine
dönüşme sürecini otomatikleştirmeyi amaçlayan açık kaynak topluluk projesi
asago'nun kurulduğunu duyuruyor. asago, otomatik, denetlenebilir ve izlenebilir
bir iş akışı oluşturmak amacıyla mühendislik ve uyumluluk ekiplerinin parçalı
adımlarını, araçlarını ve gereksinimlerini birbirine bağlıyor. Proje, aylar veya
yıllar yerine günler içinde inovasyonu besleyen daha güvenli ve üretime hazır
yapay zeka sistemlerinin sunulmasına yardımcı olmayı amaçlıyor.
asago nedir?
Yapay Zeka Güvenliği ve Yönetişim Orkestrasyonu anlamına gelen AI Safety And Governance
Orchestration sözcüklerinin baş harflerinden oluşan asago karmaşık kurumsal
ve düzenleyici yapay zeka yönetişim politikalarını somut operasyonel kontrollere
dönüştürmek için standartlaştırılmış bir açık kaynak platformu ve otomatik
iş akışı kullanmayı planlıyor. Açık Güvenli Yapay Zeka İttifakı'nın (Open Secure
AI Alliance) üyeleri olarak Red Hat ve NVIDIA'nın yürüttüğü çalışmaların üzerine
inşa edilen proje, geliştirici esnekliğini dört ana aşamada operatör yönetişimiyle
uyumlu hale getiriyor:
1. Risk haritalandırma: Çerçeve, yüklenen yapay zeka yönetişim politikalarını otomatik
olarak okuyup yorumlayarak bir kurumun spesifik gereksinimlerini IBM AI
Risk Atlas aracılığıyla NIST AI RMF, OWASP LLM Top 10, AB Yapay Zeka Yasası (EU
AI Act) gibi yerleşik Yapay Zeka Risk çerçevelerine, ontolojilerine ve standartlarına
doğrudan haritalandırıyor, böylece politika dilini uygulanabilir risk profillerine
dönüştürüyor.
2. Risk değerlendirmesi: asago, yalnızca genel kıyaslamalara dayanmak yerine zararlı
davranışları araştırarak, tespit edilen risklere özel otomatik güvenlik testleri
için kullanım senaryolarına özgü senaryolar üretiyor ve yürütüyor.
3. Risk azaltma: Proje daha sonra, testlere dayalı güvenlik bariyerleri dahil olmak
üzere risk azaltma yöntemleri önererek incelemeye hazır net bir gerekçe ve
denetim izi oluşturuyor.
4. Üretim ortamına dağıtım: asago ardından önerilen kontrolleri, hibrit bulut ve
Kubernetes dahil olmak üzere platformlar genelinde dağıtıma hazır konfigürasyonlara
dönüştürerek orkestre ediyor ve manuel altyapı kodlaması ihtiyacını ortadan
kaldırıyor.
Bu adımların her biri, tekil politika maddelerini doğrudan testlere ve çalışma zamanı
kontrollerine bağlayarak kesintisiz bir denetim izi üretecek şekilde inşa
ediliyor, böylece denetçilerin her bir eylemin tam olarak hangi riski ele aldığını
görmelerine olanak tanınıyor. Bu durum, yapay zeka güvenliğini daha öngörülebilir
ve yönetilen bir kurumsal altyapı hizmetine dönüştürmeye yardımcı oluyor.
asago neden önemli?
Soyut politika yönergelerini işlevsel yazılım konfigürasyonlarına dönüştürmek, yapay
zeka inovasyonunu yavaşlatırken insan kaynaklı iletişim eksiklikleri ve yanlış
anlaşılmalardan doğan riskleri de artırıyor. Uyumluluk yetkilileri titiz risk
değerlendirmelerine ve doğrulanabilir kanıtlara ihtiyaç duyarken, platform
mühendisleri standart DevOps ve GitOps iş akışları içinde sürdürülebilecek yapılandırılmış
konfigürasyonlara ihtiyaç duyuyor. AB Yapay Zeka Yasası (EU AI Act)
gibi geniş kapsamlı düzenlemeler yürürlüğe girdikçe kurumlar, ne aylarca süren
manuel incelemelerle inovasyonu durdurma ne de uygun güvenlik bariyerlerinden
yoksun, izlenmeyen gölge yapay zeka uygulamaları oluşturma riskini göze alabiliyor.
asago, uyumluluk ekiplerinin, veri bilimcilerinin ve altyapı yöneticilerinin üzerinde
birleşebileceği tek ve açık bir standart sunarak bu uyuşmazlığı çözmeyi hedefliyor.
Her paydaşı birinci sınıf kullanıcı olarak ele alan platform, manuel
dönüştürmelerin yarattığı tutarsızlıklara yol açmadan otonom yapay zeka ajanları
ve kurumsal büyük dil modelleri (LLM'ler) için güvenlik kontrolleri oluşturuyor.
Red Hat yetkililerinin değerlendirmeleri
Kurumlar deneysel yapay zeka pilot çalışmalarından uzun süreli çalışan otonom ajanlara
geçiş yaparken, net operasyonel güvenlik bariyerleri oluşturmak kritik
bir altyapı gereksinimi haline geliyor, diyen Red Hat Yapay Zeka Mühendisliğinden
Sorumlu Başkan Yardımcısı Steven Huels şöyle devam etti: Lightwell gibi girişimler
aracılığıyla açık kaynak tedarik zincirini yapay zeka kaynaklı güvenlik
açıklarından korumak için çalışıyoruz. asago, bu çabayı tamamlıyor ve kurumsal
politika tanımları ile canlı üretim ajanları arasındaki bağlantıyı otomatikleştirerek
kurumsal yapay zeka için bir sonraki mantıklı adımı atıyor. Bu durum,
kurumlara güvenilir yapay zekayı hibrit bulut genelinde ölçeklendirmek için ihtiyaç
duydukları uçtan uca operasyonel güveni sağlıyor.
Red Hat Yapay Zeka Güvenliği ve Model Değerlendirme Mimarı Stuart Battersby ise,
asago projesi, teknoloji sektöründen, akademiden ve kamudan paydaşları bir araya
getiren gerçek anlamda iş birlikli bir açık kaynak girişimidir. Yapay zeka
güvenliği bakış açılarının maksimum düzeyde kapsanmasını sağlamak amacıyla, özellikle
küresel ölçekteki farklı hukuki düzenlemelerden daha fazla iş ortağını topluluk
odaklı bu çabaya katılmaya davet ediyoruz dedi.
Öne çıkan detaylar
- Politika karmaşıklığını aşan otomasyon: Manuel yorumlamaları ve özel betikleri
entegre bir orkestrasyon iş akışıyla değiştirerek dağıtım süresini aylardan günlere
indiriyor.
- Tek bir denetim izi: Politika yetkililerine, BİT Yöneticilerine (CIO), yapay zeka
geliştiricilerine, platform mühendislerine ve harici denetçilere tek ve birleşik
bir izleme arayüzü üzerinden hizmet veriyor.
- Açık kaynak ve topluluk yönetişimi: Daha geniş yapay zeka güvenliği ekosisteminde
açık iş birliğini teşvik etmek amacıyla Apache Lisansı 2.0 kapsamında yayınlandı.
- Altyapıdan bağımsız dağıtım: Kubernetes, Terraform ve Ansible için bildirimsel
konfigürasyonlar üreterek kurumların birden fazla bulutta ve yerleşik ortamlarda
tutarlı güvenlik duruşlarını korumalarına olanak tanıyor.
asago projesi, yapay zeka güvenliği araştırmaları, kurumsal yazılım mühendisliği,
saldırgan makine öğrenimi (adversarial machine learning) ve mevzuata uyum alanlarındaki
farklı uzmanlıkları entegre etmek amacıyla Red Hat, Brave Software,
EvalEval koalisyonu, IBM Research, Avusturya Disiplinlerarası Dönüşüm Üniversitesi,
Microsoft, MIT Lincoln Laboratuvarı, Kuzey Karolina Eyalet Üniversitesi, NVIDIA
ve The Alan Turing Enstitüsü'nün de aralarında bulunduğu sektör liderlerini
ve akademik kurumları çok paydaşlı bir çaba altında bir araya getiriyor.
Proje, sınıfının en iyisi açık araçlarla entegre olacak ve özellikle bu araçlar
arasındaki operasyonel boşlukları hedefleyecek. Ayrıca, denetçilerin uyumluluğu
kanıtlamak için ihtiyaç duyduğu kanıt tabanlarını kaydeden tam ve dağıtık izleme
yetenekleri sunmayı amaçlayacak. Bu yaklaşım, canlı bir üretim ortamında aktif
olan her bir kontrolün doğrudan kendi açık politika gerekçesine haritalandırılmasına
olanak tanıyarak kurumsal yapay zeka portföyleri için kesintisiz doğrulama
sağlıyor.
Red Hat iş ortakları ne diyor?
Alquimia olarak aracı (agentic) platformumuzu net bir inanç üzerine inşa ettik:
Yapay zeka çıkarımı, uyum süreçlerine sonradan eklenen bir detay değil, tasarım
gereği kontrol edilebilir, açıklanabilir ve egemen olmalıdır, diyen Alquimia
AI İcra Kurulu Başkanı (CEO) Sebastián Cao sözlerini şöyle sürdürdü: Asago bu
inancı açık bir standarda dönüştürerek her kuruma, politikadan üretime hazır ve
fiilen denetlenebilen bir yönetişime giden yolu açıyor. Bu, tam da sektörün ihtiyaç
duyduğu türden bir altyapı. Nitekim gaussia.ai aracılığıyla, yapay zeka
sistemlerinin gerçek dünyada tam olarak nasıl davrandığını ölçmeye yönelik açık
ve bilimsel temellere dayanan metriklere katkıda bulunmamızın nedeni de budur.
Asago gibi açık yönetişim çerçeveleri, yalnızca tedarikçilerin değil tüm toplulukların,
pratikte güvenilir yapay zekanın nasıl göründüğü konusunda uzlaşmasını
mümkün kılıyor.
Brave Software İcra Kurulu Başkanı (CEO) ve Kurucu Ortağı Brendan Eich görüşleri
şöyle belirtti: Daha güvenli bir Web herkesin yararına olduğundan, yapay zeka
güvenliği alanını ileriye taşımaya yardımcı olmak adına asago Topluluğu'na katılmaktan
heyecan duyuyoruz. Brave her zaman açık kaynaklı olmuştur, yapay zeka
araçlarının temelini gizlilik ve güvenliğin oluşturmasını sağlamak için asago ile
iş birliği yapmayı sabırsızlıkla bekliyoruz. 120 milyondan fazla kullanıcı Brave
ile geziniyor ve arama yapıyor, kullanıcıyı merkeze alan yaklaşımımızın, güçlü
yapay zeka koruma bariyerleri konusundaki çıtayı yükseltmeye katkıda bulunacağını
umuyoruz.
Gerçek dünya ortamlarında güven duyulabilmesi için yapay zekanın ölçülebilir testlere
ve operasyonel kontrollere ihtiyacı var. IBM olarak, yönetişim çerçeveleri
ile canlıya alınan yapay zeka sistemleri arasındaki boşluğu kapatmaya yardımcı
olmak üzere uzmanlığımızı asago topluluğu aracılığıyla sunuyoruz, açıklamasında
bulunan IBM Research Yapay Zeka Platformu Başkan Yardımcısı Priya Nagpurkar
şunları ekledi: Bu adım, müşterilerimizin açık kaynak zafiyetlerini güvence
altına almasına yardımcı olduğumuz Project Lightwell kapsamındaki geniş çaplı çalışmalarımızı
tamamlıyor. Sanayiyi, akademiyi ve açık kaynak topluluklarını bir
araya getiren asago, kurumsal yapay zeka benimsenmesi için daha şeffaf ve hesap
verebilir bir temel oluşturulmasına katkıda bulunabilir.
Güvenilir yapay zeka geliştirmek iyi niyetlerden fazlasını gerektirir, uygulanabilir,
doğrulanabilir ve sürdürülebilir bir şekilde yönetilebilir bir yönetişim
şarttır, değerlendirmesinde bulunan IT:U İnsan Hakları ve Teknoloji Profesörü
Dr. Ben Wagner şöyle devam etti: asago, üst düzey politikaları pratik mühendislik
iş akışlarına dönüştürmeye yardımcı olmak amacıyla tasarlandı. IT:U olarak
yapay zekanın hem teknik hem de organizasyonel yönetişimi konusunda güçlü bir
birikime sahibiz, bu nedenle asago'ya katkıda bulunma fırsatı yakaladığımız için
minnettarız. Bu projenin, kurumların güvenle inovasyon yapmasını sağlarken sorumlu
yapay zeka geliştirmeyi pratik bir gerçeklik haline getirmesini umuyoruz.
Microsoft Sorumlu Yapay Zeka Ürün Direktörü (CPO) Sarah Bird, Yapay zeka güvenliği
ve emniyetine dair en zorlu zorlukların birçoğu henüz çözülebilmiş değil ve
tek bir kurumun tüm bunlarla tek başına mücadele etmesi mümkün değil. Açık ve
geniş çapta benimsenen standartlar, ekosistem genelinde daha tutarlı bir yönetişim
oluşturulmasına yardımcı olabilirken, topluluğun ortak yaratıcılığı en önemli
sorunlardaki ilerlemeyi hızlandırabilir. asago Topluluğu'na katılmaktan ve güvenli,
emniyetli ve insanların güvenine layık yapay zekalar inşa etmeye yardımcı
olmak üzere diğer paydaşlarla birlikte çalışmaktan heyecan duyuyoruz.
MIT Lincoln Laboratuvarı Yapay Zeka ve Siber Güvenlik Baş Bilim İnsanı Diane Staheli
ise konu hakkında görüşlerini şöyle ifade etti: Açık kaynaklı iş birliği,
tüm ekosistem genelinde yapay zeka emniyetini ve güvenliğini ilerletmenin temelidir.
asago girişimi, yönetişim gereksinimleri ile operasyonel gerçeklik arasındaki
kritik boşluğu kapatmak için disiplinler arası araştırmaları bünyesine katacaktır.
Yapay zeka emniyeti ve güvenliği araçlarını geniş kitleler için erişilebilir
kılmaya yönelik bu çabaya katkıda bulunmaktan heyecan duyuyoruz.
Yapay zeka sistemlerinin emniyetli ve güvenli olmasını sağlamak, bir politika sorunu
olduğu kadar bir mühendislik sorunudur ve tek bir şirket, laboratuvar veya
üniversite bunu tek başına çözemez, değerlendirmesinde bulunan North Carolina
State Üniversitesi Mühendislik Fakültesi Vekil Dekanı Veena Misra şunları söyledi:
NC State Mühendislik Fakültesi, ilk günden itibaren emniyetli ve üretime
hazır yapay zeka sistemleri kurmaya hazır mezun olan mühendislerinin yanı sıra,
yapay zeka güvenliği alanındaki derin araştırma gücünü de asago topluluğuna kazandırıyor.
Bu tür ortaklıklar, insan kaynağımızı ve programlarımızı doğrudan
sektörün bir sonraki ihtiyacına bağlama yöntemimizdir.
Open Secure AI Alliance (Açık Güvenli YZ İttifakı), açık modellerin, açık test
ortamlarının ve açık araçların yapay zeka savunması için en güçlü temel olduğu
ilkesi üzerine kuruldu - asago ise bu ilkeyi pratiğe döküyor, diyen NVIDIA Yazılım
Güvenliği Başkan Yardımcısı Daniel Rohrer şunları ekledi: Yapay zeka yönetişim
politikasının üretime hazır kontrollere ve denetim izlerine dönüştürülmesini
otomatikleştiren asago projesi, Red Hat, NVIDIA ve ekosistemimizin açık kaynaklı
araçlarla temsilci (agent) güvenliğini nasıl güçlendirdiğini kanıtlıyor.
Yapay zekayı ölçeklenebilir şekilde güvenli ve yönetilebilir kılmayı tek bir kurum
başaramaz, bunun için açık araçlara, farklı uzmanlıklara ve tarafsız bir yönetişime
ihtiyaç vardır, açıklamasını yapan The Alan Turing Enstitüsü Baş Bilim
İnsanı ve UCL Profesörü Jason McEwen sözlerini şöyle tamamladı: asago'nun topluluk
odaklı modelini cazip kılan tam olarak bu, bu yapı, Alan Turing Enstitüsü
Temel Araştırmalar bünyesindeki Güvenilir ve Güvenceli Yapay Zeka çalışmalarımızla
doğrudan bağlantılı. Kurucu ortak olarak katılmaktan ve geniş toplulukla
birlikte projenin yönünü şekillendirmeye yardımcı olmaktan memnuniyet duyuyoruz.
-iDeal Haber Merkezi-
- twitter.com/iDealDataHaber // www.idealdata.com.tr -
ile güvenli bir şekilde dağıtılan yapay zeka sistemleri arasındaki boşluğu
kapatmak üzere Red Hat, Alquimia AI, Brave Software, EvalEval koalisyonu, IBM Research,
Avusturya Disiplinlerarası Dönüşüm Üniversitesi, Microsoft, MIT Lincoln
Laboratuvarı, Kuzey Karolina Eyalet Üniversitesi, NVIDIA ve The Alan Turing Enstitüsü'nü
bir araya getiriyor.
Dünyanın lider açık kaynak çözümleri sağlayıcısı Red Hat, bugün yapay zeka yönetişim
politikalarının ürüne hazır, güvenli şekilde dağıtılan yapay zeka sistemlerine
dönüşme sürecini otomatikleştirmeyi amaçlayan açık kaynak topluluk projesi
asago'nun kurulduğunu duyuruyor. asago, otomatik, denetlenebilir ve izlenebilir
bir iş akışı oluşturmak amacıyla mühendislik ve uyumluluk ekiplerinin parçalı
adımlarını, araçlarını ve gereksinimlerini birbirine bağlıyor. Proje, aylar veya
yıllar yerine günler içinde inovasyonu besleyen daha güvenli ve üretime hazır
yapay zeka sistemlerinin sunulmasına yardımcı olmayı amaçlıyor.
asago nedir?
Yapay Zeka Güvenliği ve Yönetişim Orkestrasyonu anlamına gelen AI Safety And Governance
Orchestration sözcüklerinin baş harflerinden oluşan asago karmaşık kurumsal
ve düzenleyici yapay zeka yönetişim politikalarını somut operasyonel kontrollere
dönüştürmek için standartlaştırılmış bir açık kaynak platformu ve otomatik
iş akışı kullanmayı planlıyor. Açık Güvenli Yapay Zeka İttifakı'nın (Open Secure
AI Alliance) üyeleri olarak Red Hat ve NVIDIA'nın yürüttüğü çalışmaların üzerine
inşa edilen proje, geliştirici esnekliğini dört ana aşamada operatör yönetişimiyle
uyumlu hale getiriyor:
1. Risk haritalandırma: Çerçeve, yüklenen yapay zeka yönetişim politikalarını otomatik
olarak okuyup yorumlayarak bir kurumun spesifik gereksinimlerini IBM AI
Risk Atlas aracılığıyla NIST AI RMF, OWASP LLM Top 10, AB Yapay Zeka Yasası (EU
AI Act) gibi yerleşik Yapay Zeka Risk çerçevelerine, ontolojilerine ve standartlarına
doğrudan haritalandırıyor, böylece politika dilini uygulanabilir risk profillerine
dönüştürüyor.
2. Risk değerlendirmesi: asago, yalnızca genel kıyaslamalara dayanmak yerine zararlı
davranışları araştırarak, tespit edilen risklere özel otomatik güvenlik testleri
için kullanım senaryolarına özgü senaryolar üretiyor ve yürütüyor.
3. Risk azaltma: Proje daha sonra, testlere dayalı güvenlik bariyerleri dahil olmak
üzere risk azaltma yöntemleri önererek incelemeye hazır net bir gerekçe ve
denetim izi oluşturuyor.
4. Üretim ortamına dağıtım: asago ardından önerilen kontrolleri, hibrit bulut ve
Kubernetes dahil olmak üzere platformlar genelinde dağıtıma hazır konfigürasyonlara
dönüştürerek orkestre ediyor ve manuel altyapı kodlaması ihtiyacını ortadan
kaldırıyor.
Bu adımların her biri, tekil politika maddelerini doğrudan testlere ve çalışma zamanı
kontrollerine bağlayarak kesintisiz bir denetim izi üretecek şekilde inşa
ediliyor, böylece denetçilerin her bir eylemin tam olarak hangi riski ele aldığını
görmelerine olanak tanınıyor. Bu durum, yapay zeka güvenliğini daha öngörülebilir
ve yönetilen bir kurumsal altyapı hizmetine dönüştürmeye yardımcı oluyor.
asago neden önemli?
Soyut politika yönergelerini işlevsel yazılım konfigürasyonlarına dönüştürmek, yapay
zeka inovasyonunu yavaşlatırken insan kaynaklı iletişim eksiklikleri ve yanlış
anlaşılmalardan doğan riskleri de artırıyor. Uyumluluk yetkilileri titiz risk
değerlendirmelerine ve doğrulanabilir kanıtlara ihtiyaç duyarken, platform
mühendisleri standart DevOps ve GitOps iş akışları içinde sürdürülebilecek yapılandırılmış
konfigürasyonlara ihtiyaç duyuyor. AB Yapay Zeka Yasası (EU AI Act)
gibi geniş kapsamlı düzenlemeler yürürlüğe girdikçe kurumlar, ne aylarca süren
manuel incelemelerle inovasyonu durdurma ne de uygun güvenlik bariyerlerinden
yoksun, izlenmeyen gölge yapay zeka uygulamaları oluşturma riskini göze alabiliyor.
asago, uyumluluk ekiplerinin, veri bilimcilerinin ve altyapı yöneticilerinin üzerinde
birleşebileceği tek ve açık bir standart sunarak bu uyuşmazlığı çözmeyi hedefliyor.
Her paydaşı birinci sınıf kullanıcı olarak ele alan platform, manuel
dönüştürmelerin yarattığı tutarsızlıklara yol açmadan otonom yapay zeka ajanları
ve kurumsal büyük dil modelleri (LLM'ler) için güvenlik kontrolleri oluşturuyor.
Red Hat yetkililerinin değerlendirmeleri
Kurumlar deneysel yapay zeka pilot çalışmalarından uzun süreli çalışan otonom ajanlara
geçiş yaparken, net operasyonel güvenlik bariyerleri oluşturmak kritik
bir altyapı gereksinimi haline geliyor, diyen Red Hat Yapay Zeka Mühendisliğinden
Sorumlu Başkan Yardımcısı Steven Huels şöyle devam etti: Lightwell gibi girişimler
aracılığıyla açık kaynak tedarik zincirini yapay zeka kaynaklı güvenlik
açıklarından korumak için çalışıyoruz. asago, bu çabayı tamamlıyor ve kurumsal
politika tanımları ile canlı üretim ajanları arasındaki bağlantıyı otomatikleştirerek
kurumsal yapay zeka için bir sonraki mantıklı adımı atıyor. Bu durum,
kurumlara güvenilir yapay zekayı hibrit bulut genelinde ölçeklendirmek için ihtiyaç
duydukları uçtan uca operasyonel güveni sağlıyor.
Red Hat Yapay Zeka Güvenliği ve Model Değerlendirme Mimarı Stuart Battersby ise,
asago projesi, teknoloji sektöründen, akademiden ve kamudan paydaşları bir araya
getiren gerçek anlamda iş birlikli bir açık kaynak girişimidir. Yapay zeka
güvenliği bakış açılarının maksimum düzeyde kapsanmasını sağlamak amacıyla, özellikle
küresel ölçekteki farklı hukuki düzenlemelerden daha fazla iş ortağını topluluk
odaklı bu çabaya katılmaya davet ediyoruz dedi.
Öne çıkan detaylar
- Politika karmaşıklığını aşan otomasyon: Manuel yorumlamaları ve özel betikleri
entegre bir orkestrasyon iş akışıyla değiştirerek dağıtım süresini aylardan günlere
indiriyor.
- Tek bir denetim izi: Politika yetkililerine, BİT Yöneticilerine (CIO), yapay zeka
geliştiricilerine, platform mühendislerine ve harici denetçilere tek ve birleşik
bir izleme arayüzü üzerinden hizmet veriyor.
- Açık kaynak ve topluluk yönetişimi: Daha geniş yapay zeka güvenliği ekosisteminde
açık iş birliğini teşvik etmek amacıyla Apache Lisansı 2.0 kapsamında yayınlandı.
- Altyapıdan bağımsız dağıtım: Kubernetes, Terraform ve Ansible için bildirimsel
konfigürasyonlar üreterek kurumların birden fazla bulutta ve yerleşik ortamlarda
tutarlı güvenlik duruşlarını korumalarına olanak tanıyor.
asago projesi, yapay zeka güvenliği araştırmaları, kurumsal yazılım mühendisliği,
saldırgan makine öğrenimi (adversarial machine learning) ve mevzuata uyum alanlarındaki
farklı uzmanlıkları entegre etmek amacıyla Red Hat, Brave Software,
EvalEval koalisyonu, IBM Research, Avusturya Disiplinlerarası Dönüşüm Üniversitesi,
Microsoft, MIT Lincoln Laboratuvarı, Kuzey Karolina Eyalet Üniversitesi, NVIDIA
ve The Alan Turing Enstitüsü'nün de aralarında bulunduğu sektör liderlerini
ve akademik kurumları çok paydaşlı bir çaba altında bir araya getiriyor.
Proje, sınıfının en iyisi açık araçlarla entegre olacak ve özellikle bu araçlar
arasındaki operasyonel boşlukları hedefleyecek. Ayrıca, denetçilerin uyumluluğu
kanıtlamak için ihtiyaç duyduğu kanıt tabanlarını kaydeden tam ve dağıtık izleme
yetenekleri sunmayı amaçlayacak. Bu yaklaşım, canlı bir üretim ortamında aktif
olan her bir kontrolün doğrudan kendi açık politika gerekçesine haritalandırılmasına
olanak tanıyarak kurumsal yapay zeka portföyleri için kesintisiz doğrulama
sağlıyor.
Red Hat iş ortakları ne diyor?
Alquimia olarak aracı (agentic) platformumuzu net bir inanç üzerine inşa ettik:
Yapay zeka çıkarımı, uyum süreçlerine sonradan eklenen bir detay değil, tasarım
gereği kontrol edilebilir, açıklanabilir ve egemen olmalıdır, diyen Alquimia
AI İcra Kurulu Başkanı (CEO) Sebastián Cao sözlerini şöyle sürdürdü: Asago bu
inancı açık bir standarda dönüştürerek her kuruma, politikadan üretime hazır ve
fiilen denetlenebilen bir yönetişime giden yolu açıyor. Bu, tam da sektörün ihtiyaç
duyduğu türden bir altyapı. Nitekim gaussia.ai aracılığıyla, yapay zeka
sistemlerinin gerçek dünyada tam olarak nasıl davrandığını ölçmeye yönelik açık
ve bilimsel temellere dayanan metriklere katkıda bulunmamızın nedeni de budur.
Asago gibi açık yönetişim çerçeveleri, yalnızca tedarikçilerin değil tüm toplulukların,
pratikte güvenilir yapay zekanın nasıl göründüğü konusunda uzlaşmasını
mümkün kılıyor.
Brave Software İcra Kurulu Başkanı (CEO) ve Kurucu Ortağı Brendan Eich görüşleri
şöyle belirtti: Daha güvenli bir Web herkesin yararına olduğundan, yapay zeka
güvenliği alanını ileriye taşımaya yardımcı olmak adına asago Topluluğu'na katılmaktan
heyecan duyuyoruz. Brave her zaman açık kaynaklı olmuştur, yapay zeka
araçlarının temelini gizlilik ve güvenliğin oluşturmasını sağlamak için asago ile
iş birliği yapmayı sabırsızlıkla bekliyoruz. 120 milyondan fazla kullanıcı Brave
ile geziniyor ve arama yapıyor, kullanıcıyı merkeze alan yaklaşımımızın, güçlü
yapay zeka koruma bariyerleri konusundaki çıtayı yükseltmeye katkıda bulunacağını
umuyoruz.
Gerçek dünya ortamlarında güven duyulabilmesi için yapay zekanın ölçülebilir testlere
ve operasyonel kontrollere ihtiyacı var. IBM olarak, yönetişim çerçeveleri
ile canlıya alınan yapay zeka sistemleri arasındaki boşluğu kapatmaya yardımcı
olmak üzere uzmanlığımızı asago topluluğu aracılığıyla sunuyoruz, açıklamasında
bulunan IBM Research Yapay Zeka Platformu Başkan Yardımcısı Priya Nagpurkar
şunları ekledi: Bu adım, müşterilerimizin açık kaynak zafiyetlerini güvence
altına almasına yardımcı olduğumuz Project Lightwell kapsamındaki geniş çaplı çalışmalarımızı
tamamlıyor. Sanayiyi, akademiyi ve açık kaynak topluluklarını bir
araya getiren asago, kurumsal yapay zeka benimsenmesi için daha şeffaf ve hesap
verebilir bir temel oluşturulmasına katkıda bulunabilir.
Güvenilir yapay zeka geliştirmek iyi niyetlerden fazlasını gerektirir, uygulanabilir,
doğrulanabilir ve sürdürülebilir bir şekilde yönetilebilir bir yönetişim
şarttır, değerlendirmesinde bulunan IT:U İnsan Hakları ve Teknoloji Profesörü
Dr. Ben Wagner şöyle devam etti: asago, üst düzey politikaları pratik mühendislik
iş akışlarına dönüştürmeye yardımcı olmak amacıyla tasarlandı. IT:U olarak
yapay zekanın hem teknik hem de organizasyonel yönetişimi konusunda güçlü bir
birikime sahibiz, bu nedenle asago'ya katkıda bulunma fırsatı yakaladığımız için
minnettarız. Bu projenin, kurumların güvenle inovasyon yapmasını sağlarken sorumlu
yapay zeka geliştirmeyi pratik bir gerçeklik haline getirmesini umuyoruz.
Microsoft Sorumlu Yapay Zeka Ürün Direktörü (CPO) Sarah Bird, Yapay zeka güvenliği
ve emniyetine dair en zorlu zorlukların birçoğu henüz çözülebilmiş değil ve
tek bir kurumun tüm bunlarla tek başına mücadele etmesi mümkün değil. Açık ve
geniş çapta benimsenen standartlar, ekosistem genelinde daha tutarlı bir yönetişim
oluşturulmasına yardımcı olabilirken, topluluğun ortak yaratıcılığı en önemli
sorunlardaki ilerlemeyi hızlandırabilir. asago Topluluğu'na katılmaktan ve güvenli,
emniyetli ve insanların güvenine layık yapay zekalar inşa etmeye yardımcı
olmak üzere diğer paydaşlarla birlikte çalışmaktan heyecan duyuyoruz.
MIT Lincoln Laboratuvarı Yapay Zeka ve Siber Güvenlik Baş Bilim İnsanı Diane Staheli
ise konu hakkında görüşlerini şöyle ifade etti: Açık kaynaklı iş birliği,
tüm ekosistem genelinde yapay zeka emniyetini ve güvenliğini ilerletmenin temelidir.
asago girişimi, yönetişim gereksinimleri ile operasyonel gerçeklik arasındaki
kritik boşluğu kapatmak için disiplinler arası araştırmaları bünyesine katacaktır.
Yapay zeka emniyeti ve güvenliği araçlarını geniş kitleler için erişilebilir
kılmaya yönelik bu çabaya katkıda bulunmaktan heyecan duyuyoruz.
Yapay zeka sistemlerinin emniyetli ve güvenli olmasını sağlamak, bir politika sorunu
olduğu kadar bir mühendislik sorunudur ve tek bir şirket, laboratuvar veya
üniversite bunu tek başına çözemez, değerlendirmesinde bulunan North Carolina
State Üniversitesi Mühendislik Fakültesi Vekil Dekanı Veena Misra şunları söyledi:
NC State Mühendislik Fakültesi, ilk günden itibaren emniyetli ve üretime
hazır yapay zeka sistemleri kurmaya hazır mezun olan mühendislerinin yanı sıra,
yapay zeka güvenliği alanındaki derin araştırma gücünü de asago topluluğuna kazandırıyor.
Bu tür ortaklıklar, insan kaynağımızı ve programlarımızı doğrudan
sektörün bir sonraki ihtiyacına bağlama yöntemimizdir.
Open Secure AI Alliance (Açık Güvenli YZ İttifakı), açık modellerin, açık test
ortamlarının ve açık araçların yapay zeka savunması için en güçlü temel olduğu
ilkesi üzerine kuruldu - asago ise bu ilkeyi pratiğe döküyor, diyen NVIDIA Yazılım
Güvenliği Başkan Yardımcısı Daniel Rohrer şunları ekledi: Yapay zeka yönetişim
politikasının üretime hazır kontrollere ve denetim izlerine dönüştürülmesini
otomatikleştiren asago projesi, Red Hat, NVIDIA ve ekosistemimizin açık kaynaklı
araçlarla temsilci (agent) güvenliğini nasıl güçlendirdiğini kanıtlıyor.
Yapay zekayı ölçeklenebilir şekilde güvenli ve yönetilebilir kılmayı tek bir kurum
başaramaz, bunun için açık araçlara, farklı uzmanlıklara ve tarafsız bir yönetişime
ihtiyaç vardır, açıklamasını yapan The Alan Turing Enstitüsü Baş Bilim
İnsanı ve UCL Profesörü Jason McEwen sözlerini şöyle tamamladı: asago'nun topluluk
odaklı modelini cazip kılan tam olarak bu, bu yapı, Alan Turing Enstitüsü
Temel Araştırmalar bünyesindeki Güvenilir ve Güvenceli Yapay Zeka çalışmalarımızla
doğrudan bağlantılı. Kurucu ortak olarak katılmaktan ve geniş toplulukla
birlikte projenin yönünü şekillendirmeye yardımcı olmaktan memnuniyet duyuyoruz.
-iDeal Haber Merkezi-
- twitter.com/iDealDataHaber // www.idealdata.com.tr -