Zkus najít datasheet displeje a podívat se, co musí na něj chodit. Jestli máš možnost, digitálním paměťovým osciloskopem zjisti, co opravdu MCU posílá. S analogovým osciloskopem se to dělá těžko, musíš to nechat cyklicky opakovat bud celé, nebo fragment. Jiná možnost je zkusit tu simulaci projít krok za krokem a podívat se, co má na porty chodí. Problém je, že simulace nebývají zcela přesné. Tváří se funkčně a v reálu nějaká drobnost chybí, např. nastavení GPIO.
V zapojení chybí pull - up rezistory, parazitní kapacity mohou být natolik velké, že ovlivní průběh signálů. Doporučuji 4k7 na VDD.
Knihovny pro komunikaci s LCD nepoužívám, většinou je komunikace velice jednoduchá. Zde asi půjde o použití SPI, její nastavení není složité, je to zápis do několika málo registrů. Pro práci s SPI se můžeš podívat na příklady na stránkách výrobce MCU (Atmel). Pozor na frekvenci signálu SCK, nejen, že nesmí být moc vysoká (nesmí být větší než max frekvence uvedená v datasheetu LCD), ale také nesmí být moc nízká - posuvný registr SPI nemusí být schopen fungovat "staticky".
hu