OpenAI dünyasını sarsıyoryapay zeka. Şirketi Sam Altman kendini adamış ekibini dağıtmaya karar verdi risk azaltma "uzun vadeli yapay zeka" olarak bilinenSüper hizalama ekibi“. Temmuz 2023'te kurulan grup, gelişmiş yapay zeka kullanımının güvenliğini ve etiğini değerlendirmek için oluşturuldu. Ancak birkaç haftadır OpenAi ekip üyelerini diğer projelere ve araştırmalara yeniden entegre etmeye başladı. AI güvenlik ekibinin dağılması aşağıdakilerin ardından meydana geldi: kurucu ortak Ilya Sutskever'in istifası ve takımın eş lideri Jan Leike Şirketin üst yönetimiyle anlaşmazlık içinde.
Leike: “OpenAI'nin dünyadaki en iyi yer olduğunu düşündüm”
Leike'nin sahip olduğu muhalifliğini kamuoyuna açıkladı şirketin öncelikleriyle ilgili olarak yapay zeka güvenliğinin daha gelişmiş modellerin üretiminde arka planda kaldığını söyledi. X ile ilgili bir gönderide, güvenlik kültürünün göz ardı edilmesinden duyduğu endişeleri ve hayal kırıklığını paylaştı. İnsanlardan daha akıllı olan yapay zeka sistemlerinin nasıl yönlendirileceğini ve kontrol edileceğini acilen anlamanın gerekliliğini vurguladı.
"OpenAI'ye katıldım çünkü araştırmamı yürütmek için dünyanın en iyi yeri olduğunu düşündüm. Ancak uzun süredir önceliklerinin ne olması gerektiği konusunda şirketin liderliğiyle anlaşmazlığım vardı ve artık kırılma noktasına geldik. Geçtiğimiz birkaç ay boyunca ekibim ve ben kendi şirketimizde kurallara aykırı davrandık. Son yıllarda kültür güvenlik ve etik süreçler yeni ürünlerin gölgesinde kaldı".
Leike daha sonra X'teki bir gönderide "OpenAI güvenliği ilk sıraya koyan bir şirket haline gelmeli" diye yazdı ve tüm OpenAI çalışanlarını, inşa ettikleri şey için gerekli "sorumlulukla hareket etmeye" davet etti.
OpenAI durmuyor, yeni ChatGPT ile başlıyor ve eğitim için Reddit ile anlaşma yapıyor
Bloomberg ile yaptığı röportajda OpenAI şunları söyledi: Takımın dağılması doğrulandı "Süper hizalama" yapay zeka güvenlik stratejisi. Düzenleyicilerin incelemeleri arttıkça grup dağıldı. Ancak bu arada Altman'ın şirketi durmadı ve yakın zamanda chatbot'un sadece metin değil aynı zamanda ses ve video kullanan çok modlu modları içeren daha gelişmiş bir versiyonunu piyasaya sürdü. Sam Altman, bu yeniliği filmlerdeki yapay zekaya benzeterek Scarlett Johansson'un “Her” filmindeki karakterine atıfta bulundu.
Ayrıca, OpenAI, Reddit ile ortaklık kurdu, sosyal haber ve forum platformu, platformun içeriğini kullanmak içinyapay zeka modellerinin eğitimi ChatGPT gibi. Reddit ve Google arasında daha önce yapılan bir anlaşmaya benzer şekilde, bu ortaklık Reddit'in kullanıcılara ve moderatörlere yapay zeka destekli araçlar sunmasına olanak tanıyacak ve OpenAI aynı zamanda platformun reklam ortağı olacak.
OpenAI, AI sistemlerini eğitmek için genellikle gazete arşivleri de dahil olmak üzere çevrimiçi verilerden yararlanan büyük miktarda metin kullanıyor. Şirket Çeşitli gazetelerle anlaşmalar imzalandıFinancial Times ve Associated Press gibi içeriklerine erişim sağlamak için yasal sorunlar: New York Times ve George RR Martin ve John Grisham gibi yazarlar, materyallerinin izinsiz kullanımı nedeniyle telif hakkı ihlali nedeniyle OpenAI'ye (ve Microsoft'a) dava açıyor.
Altman: En azından şimdilik OpenAI tarayıcısı yok
Sam Altman ayrıca Reuters'in birkaç gün önce yaptığı açıklamayı da yalanladı. ChatGPT tabanlı bir tarayıcının yakında piyasaya sürülmesi OpenAI tarafından. Durumu bir sosyal medya gönderisi aracılığıyla açıklığa kavuşturarak şu anda ne GPT-5'in ne de ChatGPT tabanlı bir tarayıcının olmayacağını doğruladı. En azından şimdilik. Aslında onun ifadeler çelişmiyor Tamamen entegre ChatGPT'ye sahip bir OpenAI tarayıcısı fikri, belki de proje daha sonraki bir tarihe ertelenmiş olsa bile.
