OpenAI CEO’su Sam Altman, ChatGPT benzeri araçlar üzerinde çalışan diğer yapay zeka geliştiricilerinin güvenlik sınırları koymayacağı konusunda uyarıyor ve saat işliyor

Bir ABC Haberinde röportaj bu hafta, “koyduğumuz güvenlik sınırlarının bazılarını uygulamayan başka insanlar olacak” uyarısında bulundu.

OpenAI, AI sohbet robotu ChatGPT’yi Kasım ayı sonlarında halka sundu ve bu hafta daha yetenekli bir halefi açıkladı GPT-4 denir.

Diğer şirketler, büyük bir yatırımcı olarak Microsoft’a sahip olmanın avantajına rağmen, OpenAI’ye endişelenecek çok fazla rekabet sağlayan ChatGPT benzeri araçlar sunmak için yarışıyor.

OpenAI’nin kurucu ortağı ve baş bilim adamı Ilya Sutskever, The Verge’e “Dışarıda rekabet var” dedi. röportaj bu hafta yayınlandı “GPT-4’ü geliştirmek kolay değil…aynı şeyi yapmak isteyen pek çok şirket var, bu nedenle rekabetçi açıdan bakıldığında, bunu alanın olgunlaşması olarak görebilirsiniz.”

Sutskever, OpenAI’nin GPT-4’ün iç işleyişi hakkında çok az şey açıklama kararını açıklayarak birçok kişinin “OpenAI” adının hala mantıklı olup olmadığını sorgulamasına neden olurken, yorumları aynı zamanda OpenAI’nin peşinden koşan rakiplerin veya katliamın bir kabulüydü.

Altman, bu rakiplerden bazılarının, ChatGPT ve GPT-4 eşdeğerlerine korkuluk koymak konusunda OpenAI’den çok daha az endişeli olabileceğini öne sürdü.

“Endişelendiğim bir şey de… bu teknolojinin tek yaratıcısı olmayacağız” dedi. “Üzerine koyduğumuz bazı güvenlik limitlerini koymayan başka insanlar da olacak. Toplumun buna nasıl tepki vereceğini, nasıl düzenleyeceğini, nasıl başa çıkacağını anlamak için sınırlı bir zamanı olduğunu düşünüyorum.”

OpenAI bu hafta bir paylaştı “sistem kartı” belgesi test uzmanlarının, temel malzemeleri ve mutfak malzemelerini kullanarak tehlikeli bir kimyasalın nasıl yapılacağı ve şirketin ürünü piyasaya sürmeden önce sorunları nasıl çözdüğü gibi tehlikeli bilgileri GPT-4’e nasıl sağlamaya çalıştığını özetliyor.

Kimsenin AI’ya bakan kötü niyetli kişilerin kötü niyetli niyetinden şüphe etmesin diye, telefon dolandırıcıları artık ses klonlama AI araçlarını kullanarak, çaresizce mali yardıma ihtiyaç duyan insanların akrabaları gibi konuşuyor ve kurbanlardan başarılı bir şekilde para alıyor.

Altman, “Bu modellerin büyük ölçekli dezenformasyon için kullanılabileceğinden özellikle endişeliyim” dedi. “Artık bilgisayar kodu yazma konusunda daha iyi hale geldiklerine göre, [they] saldırgan siber saldırılar için kullanılabilir.”

AI araçları satan bir şirkete liderlik ettiği düşünüldüğünde, Altman yapay zekanın yarattığı tehlikeler konusunda oldukça açık sözlü. Bunun OpenAI’nin geçmişiyle bir ilgisi olabilir.

OpenAI, yapay zekanın güvenli ve şeffaf gelişimine odaklanan kâr amacı gütmeyen bir kuruluş olarak 2015 yılında kuruldu. modelin adından da anlaşılacağı gibi).

Aynı zamanda bir OpenAI kurucu ortağı olan ve buna yüklü bir bağışta bulunan Tesla ve Twitter CEO’su Elon Musk, bu değişimi eleştirdi, geçen ay dikkat: “OpenAI, Google’a karşı bir denge görevi görmesi için bir açık kaynak (bu nedenle ona “Açık” AI adını verdim), kar amacı gütmeyen bir şirket olarak oluşturuldu, ancak şimdi kapalı bir kaynak, etkin bir şekilde Google tarafından kontrol edilen maksimum kârlı bir şirket haline geldi. Microsoft.”

Aralık ayı başlarında Musk, ChatGPT’yi “korkutucu iyi” olarak nitelendirdi ve “Tehlikeli derecede güçlü yapay zekadan uzak değiliz” uyarısında bulundu.

Ancak Altman, OpenAI’nin çalışmalarına devam ederken bile halkı uyarıyor. Geçen ay, bir dizi tweet’te “geleceğin insanları bizi nasıl görecek” konusunda endişeliydi.

“Kurumlarımızın ne yapacaklarını anlaması için de yeterli zamana ihtiyacımız var” diye yazdı. “Yönetmelik kritik olacak ve anlaşılması zaman alacak… neler olduğunu, insanların bu araçları nasıl kullanmak istediğini ve toplumun nasıl birlikte gelişebileceğini anlamak için zamana sahip olmak çok önemli.”