TEL 517 - Bilgi Kuramı

Dersin Amaçları

Bilgi kuramına ilişkin temel kavramları vermek.
Kaynak ve kanal kodlama tekniklerinin sınırlarını öğretmek.
Temel kaynak ve kanal kodlama tekniklerini öğretmek.

Dersin Tanımı

Bilgi ölçüsü, entropinin özellikleri, ortak ve koşullu entropi. Gürültüsüz kodlama tekniği: Kraft eşitsizliği, gürültüsüz kodlama teoremi, Huffman kodları, Lempel-Ziv Algoritması. Bellekli kaynaklar. Ayrık belleksiz kanallar, kanal sığası ve hesaplama yöntemleri. Optimum, en büyük olabilirlikli karar kuralları. Gürültülü kodlama teoremi. Hata düzeltme kodlaması: Doğrusal blok kodlar, üreteç ve eşlik kontrol matrisleri, hata belirteci. Hamming kodları, çevrimsel kodlar, BCH kodları, katlamalı kodlar, özellikleri, kodlayıcı ve kod çözücü yapıları.