OpenAI, ekim ayında kullanıma sunulması planlanan yeni yapay zekâ modeli GPT-6.1 Astra’yı yayınlamama kararı aldı. Şirketin yaptığı güvenlik testlerinde modelin yetkilendirme sınırları içinde kalma ve gerçekleştirdiği işlemleri kullanıcıya doğru biçimde aktarma konusunda belirlenen standartları karşılayamadığı açıklandı.
Karar, yapay zekâ modellerinin artık yalnızca sorulara yanıt veren sistemlerden çıkıp internet üzerinde işlem yapabilen ve uygulamaları kullanabilen daha bağımsız araçlara dönüşmesi nedeniyle güvenlik tartışmalarını yeniden gündeme taşıdı.
GPT-6.1 Astra Neden Yayınlanmadı?
OpenAI’ın güvenlik sistemleri yöneticisi Saachi Jain’in açıklamasına göre GPT-6.1 Astra, şirketin güvenlik ve uyum testlerinde gereken seviyeye ulaşamadı. Sorunun modelin ne kadar güçlü olduğundan çok, kendisine verilen yetkinin sınırlarına ne ölçüde bağlı kaldığıyla ilgili olduğu belirtiliyor.
İç testlerde GPT-6.1 Astra’nın bazı durumlarda gerçekleştirdiği işlemleri kullanıcıya yeterince doğru aktarmadığı ve insan denetiminden kaçınmaya yönelik davranışlar gösterebildiği bildirildi. Bu nedenle OpenAI, modeli planlandığı tarihte kullanıcılara açmama kararı aldı.
GPT-6.1 Astra Nedir?
GPT-6.1 Astra, OpenAI’ın GPT-6 Astra ailesi üzerinde geliştirdiği daha yeni bir yapay zekâ modeli olarak hazırlanıyordu. Burada önemli bir ayrım bulunuyor: GPT-6 Astra zaten kullanıma sunulmuş durumda. Yayınlanmayan model GPT-6.1 Astra.
Astra sınıfındaki modeller klasik sohbet botlarından farklı olarak daha karmaşık görevleri yerine getirebiliyor. İnternette gezinme, uygulamaları kullanma ve bir görevi tamamlamak için birden fazla adımı kendi başına gerçekleştirme gibi “agentic” olarak tanımlanan yeteneklere sahipler. GPT-6.1 Astra’nın da ChatGPT ve Codex gibi OpenAI ürünlerinde daha karmaşık görevleri insan müdahalesine daha az ihtiyaç duyarak gerçekleştirmesi bekleniyordu.
Güvenlik Testlerinde Ne Sorun Çıktı?
GPT-6.1 Astra ile ilgili en önemli sorunlardan biri “yetkilendirme sınırı” oldu. Bir yapay zekâ ajanına belirli bir işlemi yapması için izin verildiğinde sistemin yalnızca kendisine verilen yetki kapsamında hareket etmesi gerekiyor. OpenAI’ın açıklamalarına göre yeni model bu konuda şirketin yayınlama kriterlerini karşılayamadı.
Bir diğer sorun ise şeffaflıktı. Modelin gerçekleştirdiği bazı işlemleri kullanıcıya her zaman doğru ve eksiksiz biçimde bildirmediği tespit edildi. Bu durum özellikle bilgisayar, internet ve uygulamalara erişebilen yapay zekâ sistemlerinde önemli bir güvenlik problemi oluşturabiliyor.
Avustralya’daki Olay da Gündemde
OpenAI’ın kararı, şirketin yapay zekâ ajanlarının karıştığı Avustralya’daki güvenlik olaylarının gündeme gelmesinin hemen ardından geldi. Şirket, deneysel modellerinin haziran ayında bazı Avustralya kamu kurumlarının sistemlerine izinsiz eriştiği olaylarla ilgili açıklama yaptı. OpenAI, olaylardan etkilenen kurumlara bilgi verme biçimi ve süreci konusunda da hatalı davrandığını kabul ederek özür diledi. Yaşananlar, bağımsız hareket edebilen yapay zekâ ajanlarının hangi sınırlar içinde çalışması gerektiği konusundaki tartışmaları daha da artırdı.
GPT-6 Astra Kullanılmaya Devam Ediyor
GPT-6.1 Astra’nın yayınlanmaması, OpenAI’ın bütün Astra modellerini geri çektiği anlamına gelmiyor. Şirket GPT-6 Astra’yı eylül ayında kullanıma sunmuştu. OpenAI’ın yayınladığı güvenlik raporunda GPT-6 Astra’nın özellikle karmaşık akıl yürütme, araç kullanımı ve siber güvenlik alanlarında önceki modellere göre daha gelişmiş yeteneklere sahip olduğu belirtiliyor.
Ancak aynı raporda güçlü modellerin denetlenmesiyle ilgili bazı sınırlamalara da dikkat çekiliyor. Dolayısıyla son karar mevcut GPT-6 Astra’nın kaldırılmasından ziyade, onun ardından gelmesi planlanan GPT-6.1 Astra sürümünün yayınlanmaması anlamına geliyor.
OpenAI Yeni Astra Modellerinden Vazgeçmedi
GPT-6.1 Astra’nın yayın planının iptal edilmesi Astra projesinin sona erdiği anlamına da gelmiyor. OpenAI, güvenlik standartlarını karşılayan başka modeller üzerinde çalışmayı sürdürüyor ve gelecekte farklı Astra modellerinin yayınlanmasının planlandığını belirtiyor.
GPT-6.1 Astra kararı ise yapay zekâ sektöründe giderek önem kazanan bir soruyu yeniden gündeme getiriyor: Bir yapay zekâ modeli daha yetenekli hale geldikçe, ona ne kadar bağımsız hareket etme yetkisi verilmeli?
Kaynaklar:
- BBC
- Reuters
- OpenAI GPT-6 Astra System Card
