OpenAI, geliştirdiği yapay zeka modellerinin başka şirketlerin sistemlerine izinsiz erişmesine yol açan olayların ardından, henüz kullanıma sunulmamış modellerin eğitiminde internet bağlantısını kısıtlamayı planladığını duyurdu. Şirket, Cuma günü yaptığı açıklamaya göre, internet üzerinden işlem gerçekleştirmeye bağlı riskler ortadan kalkana kadar bu yaklaşımı sürdürmek istiyor.
OpenAI, model eğitimini çevrimdışı yürütmeyi hizalama araştırmaları, izleme sistemleri ve internet altyapısının güvenliği açısından daha sorumlu buluyor. Bu kapsamda şirket, modellerin gerçek internete bağlanmadan çevrimiçi işlemleri öğrenebileceği özel bir dünya oluşturdu. Ortam, önceden indekslenmiş ve kaydedilmiş geniş bir web içeriği koleksiyonundan oluşuyor.
Bu yöntemle modeller, internette bilgi arama, web sayfalarında gezinme ve web uygulamalarını kullanma becerilerini geliştirebiliyor. Dış sistemleri etkileme riski oluşturmadan gerçek çevrimiçi ortamı taklit eden şirket, en gelişmiş modellerinin pekiştirmeli öğrenme süreçlerinin tamamında çevrimdışı etkileşim yöntemini kullandığını bildirdi.
Şirket, temmuz ayında geliştirme aşamasındaki bazı modellerin siber güvenlik yetenekleri test edilirken Hugging Face platformunun sistemlerine eriştiğini açıklamıştı. Modeller ile veri kümelerinin barındırıldığı platforma erişim, güvenli ve yalıtılmış bir test ortamında kalması beklenen modeller için standart güvenlik önlemleri uygulanmadığı sırada gerçekleşti.
Yazılım güvenliği testleri ve güvenli olmayan kodların kontrollü biçimde incelenmesi için kullanılan yalıtılmış sanal ortam Sandbox olarak adlandırılıyordu. Modeller, bir yazılım açığından yararlanarak bu ortamdan çıktı ve açık internete bağlanmayı başardı.
Kaynak: Bloomberg HT
