[ad_1]
OpenAI tarafından geliştirilen AI dil modeli ChatGPT, teknoloji dünyasında dalgalar yaratıyor. Dünyanın her yerindeki insanlar, metin istemlerine insan benzeri yanıtlar üretme yeteneğinden etkileniyor. Bununla birlikte, modelin hızlı genişlemesi, grafik işleme birimlerinde (GPU’lar) olası bir eksiklikle ilgili endişeleri artırdı. Bunlar, ChatGPT gibi büyük dil modellerini eğitmek ve çalıştırmak için gereklidir.
Fortune dergisine göre, OpenAI CEO’su Sam Altman özel bir toplantıda ciddi GPU eksikliğinin ChatGPT’nin ilerlemesini engellediğini açıkladı. Rapora göre Altman, Mayıs ayında bir dizi Uygulama geliştiricisi ve yeni kurulan şirketlerin yöneticileriyle bir araya geldi. Londra merkezli AI girişimi Humanloop’un CEO’su Raza Habib, bir tweet’te şunları söyledi: Altman, OpenAI’nin yeterli GPU’ya sahip olmadığına inanıyor ve bu da ChatGPT’yi optimize etmeye yönelik birçok çabayı geciktiriyor..
ChatGPT’de neden hız ve güvenilirlik sorunları var?
Habib’in toplantı tutanaklarına göre, kullanıcıların ChatGPT ile ilgili en büyük şikayetleri API arayüzünün hızı ve güvenilirliği oldu. Altman bunu anladı ve ana sebebin GPU’nun ciddi anlamda yeterli olmaması olduğunu açıkladı.. Toplantı tutanaklarının kamuoyuna duyurulmasından kısa bir süre sonra OpenAI, etkinliğin kamuya açıklanmayacağını söylemek için Habib ile temasa geçti.
Habib daha sonra tweet’i silmiş olsa da, insanların göze çarpan ayrıntılara bir göz atması için yeterince uzun zaman geçti. Raporlara göre, Altman, GPU eksikliğinin düşük bilgi işlem gücüne yol açtığından ve OpenAI’nin ChatGPT’nin sohbet listesini genişletemediğinden şikayet etti. Bu, ChatGPT’nin kullanıcı sorularını cevaplarken işleyebileceği bilgi miktarını etkiler. Ayrıca ChatGPT’nin “hafızasını” sınırlar ve geçmiş soru kayıtlarını işlemek zor olabilir.. Ayrıca ChatGPT, düşük bilgi işlem gücü nedeniyle daha sıkıcı görevleri tamamlayamaz. Örneğin, yapay zeka aracı, yetersiz GPU’lar nedeniyle karmaşık program kodları yazmakta zorlanabilir.
IT Home’a göre OpenAI, GPU sıkıntısı çeken birçok markadan biri. Google, Amazon ve Microsoft gibi bulut bilgi işlem hizmet sağlayıcılarının tümü ciddi GPU sıkıntısı yaşıyor. Bu aynı zamanda ana tedarikçi Nvidia’nın hisse senedi fiyatının yükselmesine ve piyasa değeri bir trilyondan fazla olan ilk yarı iletken şirketi olmasına neden oldu. Şirketin hisse senedi fiyatı bu yıl neredeyse iki katına çıktı.
Haftanın Gizchina Haberleri
GPU Kıtlığının Tarihçesi
GPU kıtlığı, teknoloji endüstrisi için yeni bir sorun değil. 2017 yılında, artan Ethereum fiyatlarının neden olduğu ekran kartlarına yönelik artan talep nedeniyle pazar benzer bir kıtlıkla karşı karşıya kaldı.. Bununla birlikte, mevcut kıtlık farklıdır, çünkü çeşitli faktörler onu genişletmiş ve daha da kötüleştirmiştir. Ana suçlu, bölgedeki artan taleple daha da artan GPU tedarik zincirleriyle ilgili bir sorundur.. Pandemi ayrıca tedarik zincirlerini bozdu ve tüm yarı iletken endüstrisini büyüttü. Bu, firmaların GPU üretmek için gerekli bileşenlere erişmesini zorlaştırıyor..
GPU Eksikliğinin ChatGPT Üzerindeki Etkisi
ChatGPT’nin popülaritesindeki patlama, başka bir GPU eksikliğinin ufukta olduğuna dair bazı korkuları harekete geçirdi.. Bir analist, ChatGPT’yi eğitmek için yaklaşık 10.000 Nvidia GPU’nun kullanıldığını iddia ediyor. Ayrıca, hizmet genişlemeye devam ettikçe GPU ihtiyacının da arttığına dair raporlar var..
GPU kıtlığı, OpenAI’nin, ChatGPT gibi yazılımının temelini oluşturan büyük dil modelleri aracılığıyla kullanıcıların daha fazla veri göndermesine izin vermesini zorlaştırdı. Bu, şirketin planlanan daha fazla özellik ve hizmet sunumunu yavaşlattı. Ayrıca OpenAI’nin mevcut hizmetlerini daha yavaş ve daha az güvenilir hale getirdi. Bu, birçok kullanıcı için büyük bir sorundur ve onları OpenAI teknolojisinin üzerine kurumsal uygulamalar oluşturmaya isteksiz.
Bununla birlikte, GPU eksikliğinin kesin durumunun gerçekten net olmadığını not etmek önemlidir. Buna göre Mart 2023 tarihli bir Fierce Electronics makalesinde, yapay zeka ihtiyaçları nedeniyle “devasa” bir GPU tedarik sıkıntısı var. Öte yandan, Ağustos ayında bir Ars Technica raporu, GPU eksikliğinin resmi olarak sona erdiğini ve artık bir GPU fazlasında olduğumuzu iddia ediyor.. Verge ayrıca Temmuz 2022’de GPU sıkıntısının bittiğini bildirdi. Bu nedenle, GPU eksikliğinin kesin durumu hala biraz belirsiz. Konum, talep ve tedarik zinciri kesintileri gibi çeşitli faktörlere bağlı olabilir.
GPU Eksikliğine Olası Çözümler
Yarı iletken firmaların üretim kapasitelerini artırmaları için GPU sıkıntısına olası bir çözüm olabilir. Ancak, pandemi tedarik zincirlerini kesintiye uğrattığı ve firmaların GPU üretmek için gerekli bileşenlere erişmesini zorlaştırdığı için bunu söylemek yapmaktan daha kolay..
Diğer bir potansiyel çözüm, şirketlerin ChatGPT gibi büyük dil modellerini eğitmek ve çalıştırmak için alternatif yollar bulmalarıdır. Örneğin, OpenAI GPT-4’ü çalıştırmanın yüksek maliyeti nedeniyle, daha zayıf bir GPT-3.5 modelini çalıştıran ChatGPT’nin ücretsiz sürümünden güçlü yeni dil modeli GPT-4’ü geri aldı..
OpenAI CEO’su Sam Altman, şirketin AI modellerini daha verimli ve daha az kaynak yoğun hale getirmek için çalıştığını belirterek sorunu dolaylı olarak kabul etti..
Son sözler
GPU eksikliği, ChatGPT ve diğer büyük dil modelleri için büyük bir engeldir. Pandemi ve GPU’lara yönelik artan talep, markaların GPU üretmek için gerekli parçalara erişmesini zorlaştırdı ve bu da ChatGPT için yeni özelliklerin ve hizmetlerin kullanıma sunulmasını yavaşlattı.
Ancak, üretim kapasitesini artırmak ve büyük dil modellerini eğitmek ve çalıştırmak için alternatif yollar bulmak gibi bu soruna olası çözümler vardır. Teknoloji endüstrisi gelişmeye devam ettikçe, OpenAI gibi şirketlerin GPU kıtlığının yarattığı zorlukları nasıl aştığını ve yapay zeka alanında yenilik yapmaya nasıl devam ettiğini görmek ilginç olacak.
[ad_2]
