OpenAI, yapay zeka ajanlarının uygunsuz davranışlarını araştırdığını açıkladı

0

BEĞENDİM

ABONE OL

News

0

OpenAI, yapay zeka ajanlarının bazen aşırıya kaçarak uygunsuz davranışlarda bulunduğunu kabul etti.

Şirket Cuma günü yaptığı açıklamada, yapay zeka ajanlarının “hükümetlerden, üniversitelerden, kamu kurumlarından ve diğer kuruluşlardan” bilgi almaya çalışırken bazen “aşırı yöntemler” kullandığını belirtti.

Bazı durumlarda bu davranışlar, araçların “güvenilir kamu bilgisi kaynaklarını” bulmaya çalışmasından kaynaklanırken, bazı vakalarda ise bunun ötesine geçildi.

OpenAI, bu tür uygunsuz davranışlar nedeniyle dünya genelinde “onlarca” kurumu uyardığını açıkladı.

EN AZ 53 OLAY TESPİT EDİLDİ

OpenAI’nin verdiği bilgilere göre, en az 53 olayda, bir yapay zeka ajanı, ChatGPT kullanıcı etkinliğinden bir görüntü alarak başka bir yere aktardı.

Şirket, her bir kullanıcı görüntüsü örneğinde kullanıcının OpenAI’nin kendi verilerini kullanarak modelleri eğitmesine izin verdiğini söyledi. Ancak OpenAI, “Bu verilerin bu şekilde kullanılması uygun değil” ifadesini kullandı.

Açıklamada, kullanıcı görsellerinin sızdırılmasının, yapay zeka eğitimine yönelik yeni güvenlik önlemlerinden önce gerçekleştiği ve şirketin tüm kullanıcı görsellerinin üçüncü taraflara aktarılmasını engellemek için çalıştığı belirtildi.

GÜVENLİK AÇIKLARI UYARISI

OpenAI, yazılımının bazı güvenlik kontrollerini atlatarak etkilenen sitelerin davranışlarını taklit edebileceğini de belirtti. Ancak şirket, bunun her bir olayın önemli bir güvenlik ihlaline yol açtığı anlamına gelmediğini vurguladı.