GENIUS kapsamında Yapay Zeka Destekli Yazılım Mühendisliği için Büyük Ölçekli LLM’lerin Eğitimi
Uzman: Dr. Kamer Kaya
IoTIQ tarafından Sabancı Üniversitesi ile daha önce iş birliği gerçekleştirilmiş olup, transkripsiyon modelleri (örneğin Whisper) ve büyük dil modellerinde (LLM) Türkçe dil kalitesinin iyileştirilmesi konularında deneyim kazanılmıştır. Ancak, LLM’lerin kod üretimi ve ileri düzey yazılım mühendisliği görevlerinde kullanımı konusunda daha önce bir çalışma yürütülmemiştir. Ayrıca, önceki çalışmalar görece küçük ölçekli modellerle sınırlı kalmıştır. Oysa GENIUS projesi kapsamında, gpt-oss-120 ve DeepSeek-V3 gibi dağıtık yüksek başarımlı hesaplama (HPC) kaynakları gerektiren büyük ölçekli LLM’lerin eğitimi ve ince ayarı (fine-tuning) planlanmaktadır. Dağıtık eğitim ve ince ayar süreçleri son derece karmaşık olup, uygun altyapı ve HPC deneyimi olmadan bu çalışmaların yürütülmesi mümkün görülmemektedir. Bu PoC çalışması ile firma faaliyetlerinin HPC altyapısı üzerinde gerçekleştirilmesi, büyük ölçekli modellerle çalışma ve dağıtık eğitim süreçlerinin yönetilmesi konularında kurumsal yetkinlik kazanılması hedeflenmektedir. Böylece söz konusu teknolojilerin etkin ve sürdürülebilir biçimde kullanımı mümkün hale gelecektir.
