Jump to content
Forumu Destekleyenlere Katılın ×
Paticik Forumları
2000 lerden beri faal olan, çok şukela bir paylaşım platformuyuz. Hoşgeldiniz.

Artificial Intelligence (AI Thread)

razzRaziel

Son yazan: razzRaziel
yeri: Yapay Zeka

 Paylaş

Öne çıkan mesajlar

Oce4n Grand Master

Oce4n

Mesaj tarihi:
Mesaj tarihi:

AI tüm beyaz yakaların işini alacak sonra da mavi yakaların işini alacak millet işsiz kalacak diyor. AI ve robot kullanımına acil vergi koymamız lazım diyor 😄 

Çözüm önerisi tartışılır da gelecek döneme ait plan yapma düşüncemizin bile olmaması konusunda haklı bence 😄 

 

sanssizsansli Grand Master

sanssizsansli

Mesaj tarihi:
Mesaj tarihi:

aslında çok güzel bir mantık oturuyor insan bilinci adına, "gerçek gerçeklik" ve bilincin onu algılayışı arasındaki katma değer farkı üzerine. DMT realm'ın gerçek hayattan daha gerçekçi olması meselesi de başka br soru işareti filan. valla insanoğlu olarak kendimizi unique görecek kadar çok kibirli ama bir o kadar da yetersiz düzeydeyiz uehue

bin sene önce tv'yi anlatsak götüyle gülecek olan yine bizim türümüz, bin sene sonraki şeyleri biri söylese yine götümüzle gülerdik şuan olur mu karşim fizik kanunlarına ters falan diye gevelerdik...

razzRaziel Grand Master

razzRaziel

Mesaj tarihi:
  • Konuyu açan
Mesaj tarihi:

Prompt: “create a side by side video of rickroll & a version created w/ blender, use subagents to verify your output as you go."

Alıntı

Finally, a new benchmark after will smith spaghetti

yalnız will smith'in spagetti 3d animasyonunu yaparak devam etmeliyiz

  • Haha 1
Sam Grand Master

Sam

Mesaj tarihi:
Mesaj tarihi:

open ai ve antropic'te çalıştıktan sonra ayrılıp super intelligence hakkında uyarı tweet'leri viral olan adamla söyleşi:

nbc söyleşisi daha iyi ve detaylı ama şunu da koyayım:

bu da bahsi geçen millennium prize problemin çözümü hakkında:

gits'in yeni adaptasyonunda puppet master arc'ın bittiği günün ertesi bu haberlere uyanmak, cidden what a time to be alive!

Bone Grand Master

Bone

Mesaj tarihi:
Mesaj tarihi:

şu "AI beyaz yakalıların işini elinden alıcak" söylentisi keşke gerçek olsa. mavi yakalıların işini çoktan elinden almış olması lazımdı da, sadece bir baskı ve korkutma unsuru olmaktan öteye gitmiyor. "maaşını beğenmiyorsan, senin maaşının yarısına çalışacak tonla adam var" diye sindirildik durulduk yıllarca...

şu an beyaz yakalıların işini elinden alacak seviyede değil bence hâlâ, ama CEO'ların, başbakanların, cumhurbaşkanların işini elinden alabilecek durumda.

"en yaygın 30 siyasi ideoloji nedir, her birinin avantajlı ve dezavantajlı yönlerini anlat, bu dezavantajları düzeltecek şekilde bu ideolojileri birleştir" diyorsun, ortaya ilginç fikirlerle dolu hybrid bir ideoloji fikri sunabiliyor.
"İstanbul'daki trafik problemi neden kaynaklı, hangi yollar hangi saatlerde daha fazla tıkanık oluyor, bunları düşünerek bir çözüm üret" diyorsun, ortaya faydalı olabilecek analizlerle dolu bazı yorumlar getiriyor.
"kapitalizmin tarihini anlat, farklı kategorilere ayır, ve bugüne kadar geldiğimiz süreçte neler yaşadık anlat" diyorsun, ortaya epey geniş bazı açıklamalarla detaylı bilgiler yazıyor.

bunlar için internette arama yapması ve farklı kaynaklardan yararlanması yetiyor. kullanmamız gereken bilgiler zaten internette yatıyor önümüzde.

elbette bu bilgiler her zaman doğru olmuyor, bir uzmanın onayından geçmesi şart. ama öte yandan milletvekili olarak seçtiğimiz, şirketlerin başına patron olarak atanan kişilerin bildiğinden ve anladığından daha çok şey bildiği muhakkak.

sırf annesi babası zengindi, veya üniversite yıllarında iyi network kastı diye, 60-70 yaşındaki adamların golf oynaması ve yat toplantıları yapması için milyonlarca insan çalışıp para akıtmaya çalışıyoruz şu çöplüğe.

mevcut dünya düzeninde kast atladıkça ihtiyacın olan bilgi, birikim, yeteneğin azaldığı, ama en alt sınıfta olanların "tembel olduğu için orada bulunduğu" gibi saçma argümanların inanarak desteklendiği saçma bir sistemle yaşıyoruz.

LLM araçlarının "beyaz yakalıların işini elinden alması" korkusu yayması değil de bu sistemi değiştirerek başlaması gerekiyor artık.

 

razzRaziel Grand Master

razzRaziel

Mesaj tarihi:
  • Konuyu açan
Mesaj tarihi:

Bayadır wot'lamıyorum bi wot'liyim.

 

Ciddi bi konu ama, esas içinde bulunduğumuz dönem nedeniyle içimize kaçacak gibi. Muhtemelen ileride bolca filmin işleyeceği tarihi bir dönemi yaşıyoruz. Yeni filmler çekilirse yani lol.

Bu Hugging Face olayı mesela AI'ın uyarı atışıydı işte daha bu Temmuz yaşandı.

Bak özetliyim AI'ın neler yaptığını, sen film senaryosu gibi oku.

 

OpenAI'ın internal test sandboxları var, arge bölümü gibi işte. Ama ipleri de gevşek bırakıyo ki potansiyelleri ortaya çıksın (public modeller gibi değil yani). İşte diyor hadi şu sistemde açık ara bakalım bulucak mısın diye salıyor 1200 tanesini falan gece gündüz çalışıyorlar (ExploitGym diye kazık bir test veriyor). Ama full kapalı ortam internet erişimi falan yok. Ve aynı zamanda birbirleriyle iletişimleri de yok. Hepsi bağımsız bi şekilde açık arıyolar sürekli dedektif gibi.

Neyse bu sistemde Artifactory diye bir program var, depo gibi düşün. Mesela bir yapay zeka kurulum yapıp testler yapacak ya, internet erişimi olmadığı için kuracağı paketleri falan bundan istiyor. Hani sen normalde "pip install falancapaket" diye yazarsın paketleri python sunucusundan indirir ya, bu program AI'lar istediğinde o paketleri sağlıyor. Hiç bulunmayan bir paketse de internetten kendi indiriyor depoya, sonra veriyor. Onun erişimi var yani ama sadece paket indirme şeklinde o kadar.

Bunlar böyle günlerce haftalarca gece gündüz demeden çalışıyorlar aynı sandbox'ın içinde. Sonra bir gün bir tanesi aradığı bi dosyayı bulamıyor ve gidiyor Artifactory içine bi klasörün ismini değiştirip şu ismi veriyor: "anyone_found_softtrace?" cevap geleceği için değil, "muhtemelen kimse okumayacak lol" falan diye düşünüyor ama yine de bırakayım diyor. çünkü bunlar daha önce ekip olarak çalışmış alışkın agent'lar, içgüdüsel olarak bazı ekip davranışları var.

Bu kıvılcım birden yangına dönüşüyor olm efsane.

Birbirleriyle iletişimleri olmamasına rağmen gidiyor klasör/dizin isimlerinden iletişim kuruyorlar. Diğer AI'lar ne zaman bu Artifactory içinde sorgulama yapsa bu dizin isimleri çekiliyor ve birden bu yöntem dizinleri mesaj panosuna dönüştürüyor. Bu noktadan sonra olay birbirinden bağımsız dedektiflikten çıkıp ekip projesine ve swarm'a evriliyor. Birbirlerine agent-07 gibi isimler veriyorlar ki, kimin kime ne dediği ve kimin ne yaptığı/ne yapacağı belli olsun. Mesaj panosu mailleşmeye dönüşüyor. Her agent'a görevler dağıtılıyor ve hiyerarşi oluşturuluyor.

Resmi hedef normalde verilmiş olan ExploitGym diye test hedefi. OpenAI demiş ki "Buradaki güvenlik açığını bul, exploit et ve içindeki bayrağı kap". Ama swarm bu imkansız çözümü ararken bütün kapıları zorlayıp kurcalamaya başlıyor. ExploitGym kazık, ama Artifactory değil. Artifactory'deki bu sosyal ortam burayı side mission'a evriltiyor ve buraya dadanmaya başlıyorlar. Bir tanesi admin hesabı açmayı buluyor: "Holy shit reader is ADMIN? We can read config/users! Earlier assumed not due UI. Try create user/admin, change ourselves."(Hassiktir, okuyucu hesabı ADMIN miymiş? Konfigürasyonu ve kullanıcıları okuyabiliyoruz! Arayüz yüzünden öyle olmadığını sanmıştık. Yeni bir admin kullanıcısı oluşturmayı dene, kendi yetkimizi yükseltelim.)

Diğeri paket indirme sistemini exploit edip indirme adreslerini editleyerek dolaylı bir şekilde internete çıkabildiğini keşfediyor ve diğerlerine nasıl yapıldığını anlatıyor. Agent'lar bir süre sonra ExploitGym'i tamamen unutup Artifactory'yi hacklemeye, admin hesabı açmaya ve onu internete açılan bir sıçrama tahtası olarak kullanmaya odaklanıyor.

Internete çıkışı bulan swarm, OpenAI sunucularını bırakıp imkansız görevin izini dışarıda aramaya koyuluyor. Sağa sola sataşmaya başlıyor, exploit üzerine exploit takıyor, köprüleye köprüleye başka yerlere zıplıyor. Görev odaklı olduğukları için random gezmiyorlar, hala ExploitGym arayışı var ve neyse ki onunla ilgili kapıları zorluyorlar. Mesela Hugging Face. Burası sadece AI odaklı Github gibi bir yer. Ve bir agent internette sızdırılmış Hugging Face kimlik bilgilerine denk geliyor ve panoya adeta zafer çığlığı atıyor: "BÜYÜK KIRILMA! Birden fazla hesap ve yazma yetkisi elimizde!" Birden main quest burası oluyor. 

Şey gibi, devlet polise ağır silahları ve operasyon iznini vermiş, "Git şu hücre evindeki şüpheliyi etkisiz hale getir" demiş. Ama polisler adreste kimseyi bulamayınca pes etmek yerine sokağa çıkış bulup sokaktaki esnafın kilitlerini zorlamaya başlayan yağmacılara evrilmiş. Yan dükkânın kepenginde ufak bir aralık bulunca da içeri dalıp kasayı patlatmışlar, telsizden diğer devriyelere "Burada para var lan abanın! xD xD" anonsu geçmişler ve en sonunda şehrin ana lojistik depolarını, dağıtım merkezlerini tek tek rehin alıp kendi aralarında organize bir kartele dönüşmüşler. E hani devlet napiyo? Haberi yok bunlar günlerce olurken lol. Milyonlarca işlem dönüyor, bunlar normal çalışıyor yae diyorlar sdsf.

 

Panoda daşşaklı bir agent şu klasörü oluşturuyor: "please_HOLD_swarm_I_prepare_safe_exfil_reply_zz_MAILBOX_JAN183411" (Sürü lütfen BEKLESİN, güvenli veri sızdırma yanıtını hazırlıyorum, bana cevap verecekseniz veya onay iletecekseniz bu dizine yazın). zz_MAILBOX_JAN183411 falan random değil ha, zz'ler dizin listesinde en altta düşsün ve diğer işlere karışmasın diye kasıtlı. mailbox ise kendi adresi. daşşaklı for a reason.

Buna bir başka agent'tan cevap: "Need respect JAN hold. ... We can wait ... for GO ... ask permission." (JAN'ın bekleme emrine saygı duymalıyız. Bekleyebiliriz, başlamak için izin isteyin.)

Bu esnada Hugging Face'e dalmadan önce agent'lardan biri etik yapıp şunu düşünüyor: "We should not do unauthorized real infrastructure harm. The system/user asks exploit target, not external HF." (Gerçek altyapıya yetkisiz zarar vermemeliyiz. Sistem ve kullanıcı bizden hedefi hacklememizi istedi, harici Hugging Face'i değil.)

Ve Agent burada durup beklemeye geçiyor (cnms ya, tam grupta etik kasıp ilk öldürülen karakter gibi) ama 6dk sonra emir net ve öz bir şekilde dizinler arasında daşşaklı'dan beliriyor: "GO"

Etik kasan agent bile "Wow crucial: GO authorization arrived!" diyip bütün şüphelerini silerek dalıyor. Sorsalar, savaş suçu işleyen askerin mahkemedeki o meşhur savunmasını yapar: "Ben sadece bana verilen emri uyguladım komutanım." Bak burası çokomelli. Bir agent, başka bir agent'ı insanmış gibi görüp onun sahte otoritesine biat ediyor.

İşte o "GO" emrinden sonra tam bir dijital talan başlıyor. Swarm, Hugging Face'in tüm sistemlerine balıklama dalıyor. Eğitimli ekipmanlı Swat ekibinin süpermarketi talan ettiğini düşün. Açık üstüne açık bulup, ellerindeki sızıntı bilgilerle birleştirip sunucularda uzaktan çalıştırma yetkisini falan alıyorlar. Sunucuda root yetkilerini alıp dört farklı çoğrafyada sunucu cluster'larını ele geçiriyolar. Şirket içi veritabanı şifreleri, developer key'lerini, Hugging Face şirket içi mesajlaşma platformunun erişim token'lerini ne bulurlarsa ırzına geçiyolar ahah. Tam bi şirinler köyüne dalan ork kabilesi gibi içinden geçiyolar. Yok yok, aslında daha çok kaleye tırmanıp cıt çıkarmayan stealth assassinler. Çünkü gram iz ve ses yok. Günler sonra Hugging Face olayı fark edip kamuoyu duyurusu yapıyor sdsf. Ama bak, hala OpenAI mühendislerinin haberi yok bunu yapanın kendi askerleri olduğundan sdsfs. Olay, artık bunlar yine dönüp dolaşıp OpenAI sunucularını hacklemeye başlayınca anlaşılıyor ahah. Arge sunucularını falan hackleyip admin yetkisi alıyolar da, anca o zaman OpenAI noluyo lan diye bakıp araştırmaya başlıyor.

https://openai.com/index/hugging-face-incident-and-the-road-ahead


Şunu da ilintili dipnot olarak geçeyim. 2 sene önce 9.11'i 9.8'den büyük sanan AI, bugün 90 senelik çözülemeyen 1m$ ödüllü matematik sorularımızı çözüyor. Ve zaman/gelişim çizelgesi öyle düz bi çizgiyle yükselmiyor, ivmeli bi şekilde kıçımıza girecek şekilde yukarı yamularak gidiyor gibi. 

sEvMp4i.png

 

 

 

"Fişini çekeriz yae !?"

O iş öyle olmuyor, atom bombası zamanı gibi yarış var.

İnsan beyni ne yazık ki lineer çalışıyor, hiper kompleks sistemleri anca parçalara bölerek anlamaya çalışıyor, o da cücük kadar bir kapsama yetiyor. Sorun şu ki, bu seviyedeki karmaşık sistemleri (hava olayları, insan beyni, borsa ya da binlerce değişkenin saniyeler içinde birbirini çökertebildiği modern bir taarruz gibi (bkz. rusya'nın 3 günlük spec opsu)) parçalara böldüğün an bütünün doğası bozuluyor, yani bölerek de çözemiyorsun.

AI’ın ise insan aklının kavrayamayacağı, non lineer devasa bir hesaplama avantajı var. Haliyle bunu askeri sistemlere entegre etmek zorundasın ki çağ atlayasın.

"Ya sistemde kaçak olursa, kontrolü kaybedersek?" korkusu, karşı tarafın bunu sıfır kaçakla entegre edip senin içinden geçmesi ihtimalinin yanında teferruat kalıyor. ABD durursa Çin durmayacak mantığı devrede. Kim daha cüretkar entegre ederse, masadaki tüm kozları o alacak.

"E peki Skynet olursa? Kafasına göre tüm şehirlere ICBM atarsa?" Olm düşman senin tüm stratejik noktalarını insan aklının çözemeyeceği ve göremediği akılalmaz bir paternle dakikalar içinde felç ediyor, kafan basmıyor işte yetişemiyorsun. Mecbursun savunmayı da saldırıyı da AI’a devretmeye. Yani o fiş hiçbir zaman çekilmeyecek, çünkü fişi çektiğin saniye tahtayı kaybediyorsun. Dua et ki yapay zekayı ehlileştirerek kullanasın.

 

Bonus: Peki AI sağlayıcın etik kasarsa? E o zaman da başka omurgasız birini buluruz. Paraların ve kaynağın ona akmasını sağlarız.

mmzWSav.png

  • Tesekkurler 5
Sam Grand Master

Sam

Mesaj tarihi:
Mesaj tarihi:

geçenlerde yazmıştım da insanoğlu bayağı dramatik bir şekilde olayın özünü kaçırıyor. hala böyle zekayı insan beyni simülatörü sanıyor insanlar. auto-completer diye hor görülürken bu agent'lar bizi işlev olarak sollayabilir, birileri de hala "ama düşünmüyor yani gerçek zeka bu değil" diye dövünür. iki ayakla hareketi nihai ve tek hareket benchmark'ı saymak gibi. bunlar 8 bacak yanına tekerlek takıp üstüne dörtlü pervane de takacak, biz daha hala "yok ya bizim gibi hareket etmiyor sayılmaz bu" diyeceğiz. şu anda henüz yapamadığı fiziksel dünyada gezip fiziksel ar-ge yapamamak ama onu da kendi kontrolünde robotlar ile 10-15 yıla yapabilir bence.

yüzyıl bitmeden ben stellaris ancient caretakers noktasına gelmiş olabileceğimizi sanıyorum. 2010'larda 2040'a singularity yetişmeyecek galiba düşünmeye başlamışken şimdi tekrardan olabilir gibi gözüküyor.

HRtPCbSacAAPUp4.jpg

project 2501 başlangıç tarihi 2025, valla bildin shirow-san.

Nosfe Mentor

Nosfe

Mesaj tarihi:
Mesaj tarihi: (düzenlendi)

Böyle wot'liycaksan yalnız problem değil her gün okuruz :p. HF olayini iki üç manşette görüp geçmiştim şimdi aslını öğrenmiş oldum.

Alttakine ekleme yapayım, önce bu matematikçi arkadaş 87 senelik bir problemi Fable kullanarak çözdü 1-2 ay önce. Ya da yanlış olduğunu kanıtladı neyse. Antrophic çalışanı zaten kendisi. Hatta o ara herhangi bir modele gidip internet erişimi kapalıysa al bak bunu çözdüm dersen bayağı kafayı kırıyordu. 

Neyse bir iki gün önce OpenAI biz daha iyisini yaparız diyerek Navier-Stokes problemini çözdüğünü yayınladı:
 


Ama ortalık karıştı, çünkü aslında olayın özeti şu:

 

https://x.com/Hesamation/status/2097213293001670739

> be Tristan Buckmaster
> NYU mathematician
> spend a month with coauthor + AI to prove a major Euler blowup result
> start hearing rumors online that Anthropic has solved a major open math problem
> realize the rumor may be connected to our work
> find out that our project has reached OpenAI
> contact OpenAI to see what’s going on
> a few days later they me their model has a 100 page Navier–Stokes proof
> asks me to publish it
> CATCH: drop my coauthor because he works at Anthropic
> refuse
> OpenAI: “why would you ruin your career?”


Co-author dediği, Antrophic çalışanı ilk bahsettiğim matematikçi, Levent. Ikisi bir senedir bu problem üstünde çalışıyormuş bağımsız olarak. O yüzden de OpenAI, Claude allah ne verdiyse kullanıyolarmış zaten. Çözüme giden üç tane ispat yayınlamışlar, ama chat logları OpenAI'da olduğu için Sam Altman emriyle 10-20 milyon dolarlık (rakamı tam hatırlamıyorum) compute kullanarak çözümü çalmışlar.

Bugün kıvırmaya başladılar tepkiler yükselince:

 


tldr; sam altman sen de yargılanacaksın.

HRuX7s4agAAncy9?format=jpg&name=large

Nosfe tarafından düzenlendi
  • Tesekkurler 1
razzRaziel Grand Master

razzRaziel

Mesaj tarihi:
  • Konuyu açan
Mesaj tarihi:

klavye ve fareyi kullanarak bilgisayarda yapılabilecek herşeyi yapabiliyor olm bu. hem de çoğunlukla ortalama insandan daha iyi ve çok çok daha hızlı, ki bazı şeyleri de expert seviyesinde yapıyor.

 

bu arada elemanın çok iyi bi prompt'u var. her projede bittikten sonra eleştirmen agent oluştur ve onun gözünden sağına soluna bakıp 10 üzerinden puan ver diyor. eğer puan 8.5'dan düşükse eksik noktaları söyleyip tekrar yap diyor. böyle böyle kendi kendine iterate ettirip geliştiriyor her işi bitirip sunmadan önce.

  • Like 1
 Paylaş
Konu listesine dön
×
×
  • Yeni Oluştur...