“Extrapolating the spectacular performance of GPT3 into the future suggests that the answer to life, the universe and everything is just 4.398 trillion parameters.” Geoffrey Hinton

Photo by Yulia Matvienko on Unsplash

Konuşmak, yazmak, okumak, düşünmek, hayal kurmak ve daha niceleri.. Günlük hayatımızda çoğu zaman farkında bile olmadan, doğal olarak gerçekleştirdiğimiz bu eylemlerin tamamı doğal dili işleyebilme yeteneğimizle ilintili ve bu yeteneğe sahip olma ihtimali olan yapay sistemler daha önce yapay zeka konusunda genel kültür seviyesinde bilgi sahibi olan kişiler için dahi oldukça ilgi çekici.. …


TinyBERT: Distilling BERT for Natural Language Understanding

TinyBERT: Doğal Dili Anlamak için BERT’i Damıtmak☺️

Birçok kişinin ve araştırmacının aslında uzun yıllardır var olan “dil modeli” göreviyle tanışmasını sağlayan BERT modeli, 2018 yılında sunulduğunda bugün tıpkı GPT-3'ün yarattığı hayranlığı yaratmıştı 🤩 Öyle ki araştırmacılar artık dil için ImageNet anının geldiğini söyler olmuşlardı 🥳

🚩Bu söylemin ne anlama geldiğini ve BERT’in yapısını incelediğim blog yazısı için böyle buyurun lütfen ✌🏻

by James Pond on Unsplash

BERT ve ardından peş peşe tanıtılan XLNet, RoBERTa, SpanBERT gibi önceden eğitilmiş dil modelleri birçok dil görevinde sağladıkları üstün başarılar ile adlarından söz ettirirken , diğer taraftan da çok fazla sayıda parametreye sahip olması ve cep telefonları gibi cihazlara…


Image Captioning in Turkish with Subword Units

Altsözcük Ögeleri ile Türkçe Görüntü Altyazılama

Her ne kadar Doğal Dil İşleme (DDİ — Natural Language Processing) çalışıyor olsam da, çalışma alanımı Bilgisayarlı Görü (BG — Computer Vision) ile ortak bir noktada birleştiren uygulamalar heyecanımı ve hevesimi gerçekten fazlasıyla artırıyor! Hele bir de bu uygulamaların anadilde gerçekleştiriliyor olması muazzam bir duygu!

Resim Kaynağı

Bu kez tam da bu söylediğim 2 özelliği barındıran, 2018 yılında Hacettepe Üniversitesi Bilgisayarlı Görü Laboratuvarı (HUCVL- Hacettepe University Computer Vision Lab.) araştırmacıları Menekşe Kuyu, Aykut Erdem, Erkut Erdem tarafından 26. Sinyal İşleme ve İletişim Uygulamaları (SİU) Kurultayı’nda sunulan “Image Captioning in Turkish with Subword Units” bildirisini ele alacağım!

💎Görüntü Altyazılama Problemi Nedir?


Multiple-Attribute Text Style Transfer

Metinlerde Çok-Nitelikli Stil Transferi

Görüntüler üzerinde stil transferi uygulamalarının yarattığı şahanelerle mutlaka karşılaşmışsınızdır. — Henüz karşılaşmamış olanları Ayyüce Kızrak hocanın blog yazısına doğru alayım🤗 — Çok da beğenmediğiniz bir çiziminizin çok sevdiğiniz bir ressamın en ünlü eserinin stiline bürünmesi fazlasıyla harika değil mi 🤩 Ama bu yetenek yalnızca görüntü işleme ile sınırlı kalmasa ve doğal dildeki metinler üzerinde de yapılabilse daha da hayranlık yaratıcı olmaz mı 😇

Çalışmada önerilen modelin, sosyal medya verileri üzerine uygulanmasıyla elde edilen sonuçlardan bazı örnekler. Her bir kutudaki ilk satır, orijinal özniteliğe sahip veriyi ve ikinci satır verilen yeni özniteliğe göre üretilen metni gösterir.

Bu görev aslında Doğal Dil İşleme alanında daha önce pek çok araştırmacının ilgi odağı oldu ancak bu hafta incelediğim ICLR 2019'da sunulmuş olan “Multiple-Attribute Text Style Transfer” isimli konferans bildirisi yaş, cinsiyet, duygu…


Exploring Emoji Usage and Prediction Through a Temporal Variation Lens

Temporal Varyasyon Lensi İle Emoji Kullanımını ve Tahminini Keşfetme

Sosyal medya hesaplarımızda paylaşımlar yaparken veya anlık mesajlaşma uygulamalarımızda eşimizle dostumuzla iletişim kurarken emoji kullanmayanımız var mı ❓ Emojiler yazılı iletişimde duygularımızı göstermenin etkili yollarından biri. Peki ya bu emojilerin hangilerini, ne zaman sık kullandığınızı hiç düşünmüş müydünüz 🧐 Dahası bu zaman bilgisinin, emojilerin anlamlandırılmasında etkili olabileceği fikri oldukça ilginç değil mi 🤩

Photo by Lidya Nada on Unsplash

Noel baba emojisinin 🎅🏻 Christmas dönemi, sahildeki şemsiye emojisinin🏖️ yazın daha sık kullanılması aslında bu noktada kolayca görülen bir bağıntı. Diğer taraftan, 4 yapraklı yonca emojisinin 🍀 genellikle iyi şans dilekleri için kullanılması tanıdık bir bilgi iken, Mart…


Akıllı sistemlerin rutin yaşantımızın olmazsa olmaz demirbaşları haline gelmesi ile birlikte bilgisayar ve hukuk çalışma alanları belki de hiç olmadığı kadar birbirine yakınlaşmaya başladı!

Resim Kaynağı

Kullandığımız bu sistemlerin canlıların hayatları üzerinde etkilerinin iyiden iyiye hissedilir olması ile birlikte; gerek doğacak zafiyetlerin hukuk sistemleri içerisindeki yerlerinin belirlenmesinde, gerekse hukuk sistemlerinde fazlaca zaman/iş gücü ihtiyacı duyulan süreçlerin kolaylaştırılmasında kullanılabilecek akıllı sistemlerin tasarımında iki alanın araştırmacıları bir araya gelerek başarılı disiplinler arası çalışmalara imza atılmaktadır.

⚖️Yapay Zeka için Hukuk

Kullanım yaygınlaşması ile birlikte, sistemlerden doğan zafiyetler de dikkat çekici düzeye ulaşmış ve ‘Yapay Zeka için Hukuk’ konulu çalışmalar ulusal ve uluslararası platformlarda gündeme taşınmıştır.

Bu konuda ülkemizinde de 2019 yılı Aralık ayında Av. Selin Çetin’in editörlüğünü yürüttüğü, İstanbul, Ankara ve İzmir Baroları’ndan önemli hukukçular ve teknik tarafta Ayyüce Kızrak ile birlikte destek…


Sabahın erken saatlerinde hemen her gün televizyonun başına geçip Susam Sokağı’nı izleyerek kendi dilindeki temel bilgileri öğrenen 80'lerin çocukları, bugün bilgisayarlara dil öğretmek için yine Susam Sokağı’na sarıldı. 😊

Bizlerin Büdü olarak tanıdığı, orjinalinde ise BERT olarak tanınan karakter bugün doğal dil işleme alanında kilometre taşı olarak kabul edilen bir modele ismini veriyor. 🎈

Susam Sokağı’ndan BERT Karakteri

2018 yılında derin öğrenmedeki gelişmelerden en çok dikkat çekenlerinden biri de doğal dil işleme için geliştirilen etkin transfer öğrenme metotları oldu. …


27. Sinyal İşleme ve Uygulamaları Kurultayı, Sivas

️Gebze Teknik Üniversitesi ve Cumhuriyet Üniversitesi işbirliği ile 24–26 Nisan 2019 tarihleri arasında Sivas’da düzenlenen 27. Sinyal İşleme ve Uygulamaları Kurultayı’nda Yavuz Kömeçoğlu ve Birol Kuyumcu ile birlikte yaptığımız çalışmayı sunmak üzere biz de vardık ✨

Ridge Regresyon Analizi ile Türkçe Dokümanlarda Yazar Tanıma, SIU 2019

Katılım gösteren araştırmacılarla kurultay programının elverdiği kadarıyla paylaşma imkanı bulduğumuz ‘Ridge Regresyon Analizi ile Türkçe Dokümanlarda Yazar Tanıma’ isimli Doğal Dil İşleme alanında yaptığımız çalışmanın ayrıntılarını kurultay sonrasında paylaşmak istedik.

Öncelikle SIU 2019'da hangi konular üzerinde duruldu, neler konuşuldu ve paylaşıldı onlardan biraz bahsedelim!

📋 27. Sinyal İşleme ve Uygulamaları Kurultayı’ndan Notlar

Bu sene 27.si düzenlenen SIU, işaret işleme ile iletişim alanlarında çalışan araştırmacıların bir araya geldiği ve araştırma faaliyetlerini birbirleriyle paylaştığı…


Yapay Sinir Ağı Temelli Doğal Dil İşleme

Bu yazı DeepMind’da araştırmacı olarak çalışan Sebastian Ruder ve Stellenbosch University’de öğretim görevlisi olan Herman Kamper tarafından Deep Learning Indaba 2018 ‘da yapılan Doğal Dil İşlemenin Sınırları oturumunda sunulduktan sonra kaleme alınan A Review of the Neural History of Natural Language Processing’ makalesinin çevirisi ve yorumlanması ile oluşturulmuştur. ⭐

Yapay Zeka uygulamalarının iyiden iyiye hayatımızda yer aldığı bu günlerde çalışmaların içerisinde yer alan şanslı geliştiriciler olarak, her gün akıl almaz bir uygulamayla karşılaşıyoruz. Görüntü işlemeden, doğal dil işlemeye hemen her alandaki bu gelişmeler heyecanımızı artırırken, takip etmeyi de bir hayli zorlaştırıyor 🤖

İşleri biraz daha kolaylaştıralım ve bir çırpıda (kendi…


Bilgisayarlı Görü ve Doğal Dil İşleme alanlarını bir araya getiren ‘Görsel Soru Cevaplama (Visual Question Answering — VQA)’ probleminin tanıtıldığı bu yazıda çokça tercih edilen sistem yaklaşımları ve kullanılan veri kümelerinden bahsedilirken; bu konuda yapılmış en önemli çalışmalardan birinin canlı uygulama demosu oluşturulmuş ve bu çalışma Yavuz Kömeçoğlu tarafından API haline getirilmiştir.

Yapay zekâ ile yaşamaya iyiden iyiye alıştığımız bu günlerde, beklentilerin üzerinde öğrenme yetenekleri sergileyen makineleri gördükçe beklentilerimizi daha da artırarak, bu akıllı makineler daha çok bizim gibi görsün, daha fazla bizim gibi konuşsun, daha iyi bizi hissetsin ister hale geldik!

İnsan beyni günlük yaşantısında nasıl görme, duyma, hissetme…

Başak Buluz Kömeçoğlu

Research Assistant at Information Technologies Institute of Gebze Technical University | Phd Candidate at Gebze Technical University

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store