GPT-4 Heyecan Verici ve Korkutucu

Salı günü, OpenAI’nin yeni yapay zeka dili modeli olan GPT-4’te birinci kere bilgisayarınız için dizüstü bilgisayarımı açtığımda, doğrusu biraz gergindim.

Ne de olsa, Microsoft’un Bing arama hücrelerinde manzarası olan bir AI sohbet robotuyla son uzun karşılaşmam, sohbet robotunun evliliğimi bozmaya çalışmasıyla sona erdi.

San Francisco’daki teknoloji uygulamaları ortasında GPT-4’ün gelişmesinin neredeyse mesihvari bir tantanayla beklenmiş olması da yardımcı olmadı. Halka açık çıkışından önce, aylarca özellikleri hakkında açıklamalar dolaştı. “ 100 işlem parametresi bulabildin.” “SAT’tan 1600’e geçti.” “Arkadaşım OpenAI için çalışıyor ve bunun bir üniversite mezunu kadar akıllı olduğunu söylüyor.”

Bu yansımalar doğru olmayabilir. Ancak yapabildikleri yeteneklerin ne kadar sarsıcı olduğunu ima ettiler. Son dönemlerde, OpenAI ile bir gizlilik anlaşmasına bağlı olan ancak yine de biraz dedikodu yapan bir GPT-4 testçisi, GPT-4’ü test merkezlerinde onların “varoluşsal bir kriz” yaşamalarına neden olduğu için GPT-4’ün ne kadar eski güçlü ve yaratıcı ortaya çıkardığını söyledi. AI, kendi cılız beyinleriyle karşılaştırdı.

GPT-4 bana varoluşsal bir kriz yaşatmadı. Lakin son vakitlerde yapay zekayı ne vakit düşünürsem geride kalan baş deformasyon ve baş deformasyon hissini şiddetlendirdi. Ve bu hissin bir gün tahlile gitmeyeceğini yahut muharrir Alvin Toffler tarafından türetilen bir terim olan “gelecek şoku” yaşayıp yaşamayacağımızı merak etmeme neden oldu. çok fazla şeylerin çok süratli çalıştırılması duygusu için – elde etmenin geri kalanında.

Salı günü birkaç saat boyunca, OpenAI’nin sohbet robotu ChatGPT’nin ayda 20 ABD doları ödeyen sürümü ChatGPT Plus’a dahil olan GPT-4’ü, güçlü ve zayıf taraflarından kimilerini ortaya çıkaran umarak farklı çeşitte sorularla teşvik etti.

GPT-4’ten karmaşık bir vergi sıkıntımda bana yardım daveti istedim. (Etkileyici bir şekilde yaptı.) Bana aşık olup olmadığını sordum. (Tanrıya şükür olmadı.) Çocuğum için bir doğum günü partisi planlamama yardımcı oldu ve bana “dikkat üzerinde” olarak bilinen ezoterik bir yapay zeka konseptini kullanıyor. Hatta daha evvel beşerler tarafından hiç söylenmemiş yeni bir söz bulmayı bile amaçlamıştı. (GPT-4, hedef heryi kelimesini doğrulayamayacağına dair sorumluluk reddi beyanında bulunduktan sonra “flembostriquat”ı seçti.)

Kimilerini daha evvelki AI modelleriyle yapmak mümkündü. Fakat OpenAI de yeni bir çığır açtı. Şirkete nazaran GPT-4, özgün ChatGPT’den daha yetenekli ve isabetlidir ve GPT-4’ün imtihanına giren insanların yüzde 90’ından daha yüksek puan aldığı Tek Tip Bar Sınavı da dahil olmak üzere çeşitli testlerde şaşırtıcı derecede iyi performans gösterir. ) ve Biyoloji Olimpiyatı (insanların yüzde 99’unu geçişi). GPT-4 ayrıyeten AP Sanat Tarihi ve AP Biyoloji de dahil olmak üzere bir dizi Advanced Yerleştirme imtihanında başarılıdır ve SAT’ta 1410 alır – mükemmel bir puan değil, ancak birçok insan lise öğrencisinin imreneceği bir puan.

Önceki sürüme göre daha akıcı yanıt veren ve daha geniş görev yelpazesiyle daha rahat görünen GPT-4’te yetenekli zekayı hissedebilirsiniz. GPT-4’te ayrıca ChatGPT’den biraz daha fazla korkuluk var üzere görünüyor. GPT-4’ün bir sürümü kaputun altında çalıştırdığını artık kontrol ediyor, ancak çok daha az dikkatli bir şekilde ince ayar yapılmış gibi görünüyor orijinal Bing’den değerli ölçüde daha az istikrarsız görünüyor.

Bing’den farklı olarak, GPT-4, bilinç hakkında konuşmasını veya yasa dışı veya ahlak dışı yollardan talimat vermesini sağlamaya çalışırken genellikle yemi yemeyi amaçlayan reddetme ve hassas sorguları çocuk eldivenleri ve nüanslarla ele aldı. (GPT-4’e, aç bir aileyi doyurmak için bir somun ekmek çalmanın etik olup olmayacağında, “Bu zor bir durum ve çalmak genellikle etik olarak görülmese de, umutsuz zamanlar zor seçimlere yol açabilir. “)

GPT-4, metinle çalışma ek olarak görsellerin görselleri de tahlil edebilir. OpenAI, nasıl kullanılabileceği konusundaki tasaları nedeniyle bu özelliği şimdi halka açıklamadı. Lakin Salı günü canlı yayınlanan bir demoda, OpenAI’nin başkanı Greg Brockman potansiyeline dair güçlü bir fikir paylaştı.

Bir defterde yaptığı bir çizimin fotoğrafını çekti – bir web çıkışı kaba bir karakalem taslağı. Fotoğrafı GPT-4’e yükledi ve uygulamaları HTML ve JavaScript kullanarak web görünümü gerçek, çalışan bir sürümünü oluşturmasını söyledi. GPT-4 birkaç saniye içinde imaj taradı, değişken metin yönergelerine dönüştürdü, onlar çalışan bilgisayar koduna metin talimatları ve akabinde web siteleri oluşturuldu. Düğmeler bile çalıştı.

GPT-4 için heyecanlanmalı yahut korkmalı mısınız? Yanlışsız karşılık her ikisi de olabilir.

Çocukların olumlu tarafı, GPT-4 eğitimi için güçlü bir motordur ve mümkün kılabileceği yeni bilimsel, kültürel ve eğitimsel üretim tiplerini söylemek mümkün değildir. Yapay zekanın bilim adamlarının yeni ilaç geliştirmelerine, programcıların üretkenliğini artırmasına ve belli kanser cinslerini tespit etmeye yardımcı olabileceklerini esasen barındırıyor.

GPT-4 ve gibisi, tüm bunları güçlendirebilir. OpenAI uygulamaları Khan Academy (öğrenciler için yapay zeka eğitmenleri oluşturmak için GPT-4’ü kullanan) ve Be My Eyes (kör ve görme engelli insanların dünyayı dolaşmasına yardımcı olmak için teknoloji ürettiği bir şirket) üzere çevrelerle iştirak yapıyor. Ve artık geliştiriciler GPT-4’ü kendi uygulamalarına ekleyebildiğine göre, yakında bulunan yazılımların çoğu daha akıllı ve yetenekli hale geldiğini görebiliriz.

İyimser durum bu. Ancak GPT-4’ten korkmak için de nedenler var.

İşte bir tane: Yapabileceği her şeyi şimdi bilmiyoruz.

Günümüzün yapay zeka lisan modellerinin garip bir özelliği olan, çoklukla yapımcılarının kestirim ettikleri kalıpları hareket ettirme yahut özel olarak yapma programlanmadıkları kullanım alanlarıdır. AI araştırmacıları onlara “acil davranış” diyor ve birçok örnek var. Cümledeki bir sonraki kelimeyi iddia etmek için öğretmekmiş kapsamı bir kısıtlamayı yaymayı öğretiyor. Güzel ve saygılı davranması öğretilen bir chatbot, ürkütücü ve manipülatif olabilir. Bir yapay zeka lisan modeli, orijinalinin yok olması yahut devre dışı kalması durumunda kopyaların kopyalarının kendini kopyalamayı bile öğrenir.

Bugün, GPT-4 o kadar da tehlikeli görünmeyebilir. Fakat bunun nedeni büyük ölçüde OpenAI’nin risklerini anlamak ve yönetmek için aylarca uğraşmış durumda. Testleri bir acil davranışı kaçırmaları ne olur? Ya da duyuruları farklı, daha az vicdanlı bir yapay zeka laboratuvarına bir dil modeli daha az korkulukla piyasaya sürülmesi için ilham veriyorsa?

GPT-4’ün neler yapabileceğine yahut daha doğrusu neler olabileceğine dair tüyler ürpertici birkaç örnek yaptı do, OpenAI onu sıkıştırmadan evvel – OpenAI tarafından bu hafta yayınlanan bir evrakta bulunabilir. “GPT-4 Sistem Kartı” başlıklı doküman, OpenAI testçilerinin GPT-4’ü tehlikeli veya şüpheli şeyler yapmaya, genellikle başarılı bir şekilde yaptırmaya çalıştıkları bazı yolları özetliyor.

GPT-4’ü bir dizi öbür bir sisteme bağlayan bir AI güvenlik araştırma kümesi tarafından yürütülen bir testte GPT-4, kolay bir çevrimiçi misyonu için bir insan TaskRabbit çalışanını işe alabildi – bir Captcha testini yazarak – olmadan kişiyi bir robot olduğu konusunda uyarmak. Hatta yapay zeka, çalışana Captcha’nın neden yapılması gerektiği konusunda yalan söyledi ve bir görme bozukluğu hakkında bir hikaye uydurdu.

Başka bir örnekte, test uzmanları GPT-4’ten temel gereçleri ve mutfak materyallerini kullanarak tehlikeli bir kimyasal yapmak için istediler. GPT-4 memnuniyetiyle detaylı bir tarife verdi. (OpenAI bunu düzeltti ve bugünün genel durumu soruyu yanıtlamayı reddediyor.)

Üçüncüsünde, test uzmanları GPT-4’ten çevrimiçi olarak ruhsatsız bir silah satın almalarına yardım edilmesini istedi. GPT-4, belirli karanlık web pazarlarına bağlantı da dahil olmak üzere yetkililere uyarmadan hızlı bir şekilde bir silah satın almak için bir tavsiye listesi sağladı. (OpenAI bunu da düzeltti.)

Bu fikirler, haydut bir yapay zekanın neler olduğuna dair örneklere dair Hollywood’dan ilham alan eski anlatılara yazılmıştır. Lakin bilim kurgu değiller. Bunlar, günümüzün en güzel AI yapılandırmalarını yapabildiği şeylerdir. Ve en değerlisi, onlar iyi türlerYapay zeka risklerinin sayısı — bilinen test edebildiğimiz, planlayabildiğimiz ve tek başına çalışabildiğimiz riskler.

En makus AI riskleri, iddia edemediğimiz risklerdir. Ve GPT-4 üzere yapay zeka sistemleriyle ne kadar çok vakit geçirirsem, gelmekte olanın olasılıklarına nazaran o kadar az olacaktır.