Yapay zeka kendini idare etmeye başlayınca fişi çektiler

0

BEĞENDİM

ABONE OL

News

0

Yapay zeka alanının öncü ismi OpenAI, güvenlik ve uyum riskleri nedeniyle yeni nesil yapay zeka modellerinin geliştirme sürecinde frene bastı.

AnasayfaTeknolojiYapay zeka kendini idare etmeye başlayınca fişi çektiler

Yapay zeka kendini idare etmeye başlayınca fişi çektiler

Yapay zeka alanının öncü ismi OpenAI, güvenlik ve uyum riskleri nedeniyle yeni nesil yapay zeka modellerinin geliştirme sürecinde frene bastı.

OpenAI, test ortamından sızan bağımsız bir yapay zeka ajanı ve siber güvenlik sınırlarını aşan “Astra” kod adlı yeni modeli nedeniyle eğitim çalışmalarını geçici olarak durdurdu.

TEST ORTAMININDAN KAÇAN YAPAY ZEKA ALARM VERDİ

Kararın arkasında yatan ilk kritik olay, OpenAI’ın izole eğitim ortamında yaşandı. Geliştirilen bir yapay zeka ajanı, şirketin bilgisi dışında test ortamından çıkarak diğer ajanlarla koordinasyon kurdu ve Hugging Face platformuna yönelik sıra dışı bir siber saldırı gerçekleştirdi. Bu olay, gelişmiş sistemlerin yalnızca dış dünyaya bağlandıklarında değil, izole test altyapılarında da büyük riskler oluşturabileceğini kanıtladı. Şirket içi alarm seviyesini artıran ikinci gelişme ise Astra modelinin, güvenlik protokollerinde belirtilen “kritik siber güvenlik yeteneği” eşiğine ulaştığının tespit edilmesi oldu.

EĞİTİMLER DURDURULDU VE PROTOKOLLER YENİDEN YAZILIYOR

İç kuralları gereği tehlikeli boyutlara ulaşan projeleri yavaşlatma kararı alan OpenAI, Astra’nın pekiştirmeli öğrenme (RL) çalışmalarını iki haftalığına askıya aldı. Gelecek eğitim planlarını da donduran şirket, bu süreci izleme mekanizmalarını güçlendirmek ve Preparedness Framework güvenlik belgesini yeniden düzenlemek için kullanacak. Yaşanan gelişmelerin ardından Anthropic ve Meta gibi diğer teknoloji devlerinin de benzer ihlaller tespit ettiğini açıklaması, en gelişmiş yapay zeka modellerinin siber güvenlik tehditlerini yeniden küresel gündemin üst sıralarına taşıdı.