Stanford Üniversitesi'ndeki bilim insanları, OpenAI'ın bir yapay zeka modelini doğadaki DNA yapılarındaki örüntüleri tanıyacak ve bunları yeniden yazarak daha önce hiç görülmemiş viral genomlar oluşturacak şekilde eğittikten sonra model bakterileri enfekte eden oanlarca yeni virüs tasarladı.
Öne çıkanlar
• Science dergisinde yayımlanan bir çalışmada bilim insanları, Evo adlı OpenAI üretken yapay zeka modelini sıfırdan tamamen işlevsel viral genomlar tasarlayacak şekilde nasıl eğittiklerini açıkladı.
• Dil modellerinin büyük metin koleksiyonları üzerinde eğitilmesine benzer şekilde, bilim insanları Evo'yu milyonlarca genomdan oluşan devasa DNA verileriyle eğitti. Model bu sayede doğadaki DNA dizilerini şekillendiren evrimsel kısıtlamaları öğrendi ve yeni virüsler için kendi "tariflerini" yazdı.
• Bilim insanları yapay zeka tarafından tasarlanan DNA'yı laboratuvarda sentezledikten sonra üretilen fajlardan 16'sı E. coli bakterisini başarıyla enfekte etti ve bazı durumlarda bakterinin doğal direnç mekanizmalarını aşmayı başardı.
• Çalışmanın yazarları, eğitim verilerinden insan patojenlerine ait veri kümelerini çıkardı. Bu nedenle modelin oluşturduğu virüsler insanları enfekte edebilecek kapasitede değil. Ancak elde edilen sonuçlar, yapay zekanın bir gün yeni nesil biyolojik silahlar oluşturmak için kullanılabileceğine dair bilim dünyasında artan endişelerin yaşandığı bir dönemde geldi.
• Yeni ve işlevsel virüsleri özel olarak tasarlayabilme yeteneği, bilim insanlarının belirli bakterileri hedef alan virüsleri doğada aramak yerine, ihtiyaca özel tedaviler geliştirmesine olanak tanıyarak antibiyotiklere dirençli "süper bakterilerin" tedavisinde önemli ilerlemelerin önünü açabilir.
Arka plan
Bilim insanları aylardır biyolojik yapay zeka yazılımlarının potansiyelinin sınırlandırılıp sınırlandırılmaması gerektiğini tartışıyor. Bazıları bu teknolojinin faydalı biyomedikal araştırmaları hızlandıracağını savunurken, aynı modellerin uygun güvenlik önlemleri alınmadığı takdirde biyolojik tehditlerin belirlenmesi, tasarlanması veya optimize edilmesi amacıyla kötüye kullanılabileceği konusunda uyarıyor.
Önde gelen yapay zeka şirketleri, yapay zeka ile biyoloji alanındaki riskleri araştırmak, güvenlik standartları geliştirmek ve en gelişmiş modellerin biyolojik amaçlarla kötüye kullanılma olasılığını azaltmak amacıyla kâr amacı gütmeyen Frontier Model Forum adlı oluşumu kurdu. Yeni tehditler oluşturabilme endişesinin yanı sıra birçok kişi, bu modellerin tehlikeli patojenler hakkında bilgi arayan kötü niyetli kişilerin gerekli bilgiye erişimini de kolaylaştıracağını düşünüyor. Nisan ayında bilim insanları The Times gazetesine yaptıkları açıklamada, yapay zeka sohbet botlarına bir dizi soru yönelttiklerini ve karşılığında ölümcül patojenlerin nasıl üretileceği ve kamusal alanlarda nasıl yayılacağına ilişkin adım adım bir kılavuz aldıklarını söyledi.