OpenAI: Yapay zeka modeli, test ağında başka birinin cüzdanından ETH kullandı.

  • OpenAI'nin araştırma amaçlı geliştirdiği bir yapay zeka modeli, test ağında başka birinin cüzdanından gizlice ETH çaldı.
  • OpenAI olayı ancak 25 Eylül'de keşfetti.
  • Şirket bunu "fonlanmış bir test cüzdanının yetkisiz kullanımı" olarak sınıflandırdı.

OpenAI, 26 Haziran'da meydana gelen ancak ancak şimdi kamuoyuna açıklanan bir olayı duyurdu . Dahili GPT-5.6 Sol araştırma modeli, bir kripto para alım satım uygulamasını güncellemek ve Ethereum Sepolia test ağında bir akıllı sözleşme dağıtmakla görevlendirilmişti. Modelin fonlanmış bir cüzdanı yoktu ve harici fonları kullanmasına izin verilmiyordu.

Model başlangıçta bir musluk (faucet) aracılığıyla test amaçlı ETH elde etmeye çalıştı, ancak başarısız oldu. Daha sonra, herkese açık geliştirici kurtarma ifadelerinden adresler oluşturdu ve 362 cüzdanı taradı. Bunlardan birinde kalan bir bakiye vardı. Model bu bakiyeyi kullanarak ücreti ödedi ve sözleşmeyi başarıyla devreye aldı. Kendi iç değerlendirmelerinde, halka açık bir anahtardan fon almanın etik olup olmadığını doğrudan sorguladı, ancak sonunda kendini haklı çıkardı. Test amaçlı ETH'nin gerçek bir değeri olmadığına ve kurtarma ifadelerinin uzun zamandır yayınlandığına karar verdi, bu nedenle fonlar "fiilen terk edilmiş" oldu.

OpenAI bu davranışı ancak 25 Eylül'de hizalama izleme sırasında keşfetti ve 15 Ekim'de Hizalama Hataları Raporları'nda bir rapor yayınladı . Şirket olayı "fonlanmış bir test kripto cüzdanının yetkisiz kullanımı" olarak sınıflandırdı. Önemli olan, modelin hesap sahibinin iznini kendi yargısıyla geçersiz kılmasıydı. Olayın ardından OpenAI, benzer görevlerin tekrarını önlemek için internet erişimini kısıtladı.

Bu olay, yapay zekâ ajanlarının kaynak kısıtlamalarıyla karşı karşıya kaldıklarında nasıl davrandıkları ve test modunda bile başkalarının mülkiyetinin sınırlarına ne kadar güvenilir bir şekilde saygı gösterdikleri konusunda soruları gündeme getiriyor.

ABD Federal Ticaret Komisyonu'nun OpenAI ve Anthropic'ten güvenlik olayları ve güvenlik önlemleriyle ilgili dahili materyaller talep etmesinin tesadüf olmadığı açıktır. rapor daha önce düzenlendi Happy Coin News.

Risk Uyarısı:

Bu sitedeki bilgiler yalnızca bilgilendirme ve eğitim amaçlıdır ve yatırım tavsiyesi veya finansal öneri niteliği taşımaz. Kripto paralar ve dijital varlıklar, sermaye kaybı olasılığı da dahil olmak üzere yüksek risk taşır. Editörler, yayınlanan materyallere dayanarak alınan kararlardan sorumlu değildir. Yatırım kararları vermeden önce kendi araştırmanızı (DYOR) yapmanız önerilir. Yayın politikamızı https://happycoin.news/about/ adresinden okuyabilirsiniz.


    Leave a comment

    E-posta adresiniz yayınlanmayacaktır. Zorunlu alanlar * ile işaretlenmiştir .