自分も未だに初心者で分からない場所もありますが、
ACOSで返ってくるのはラジアンなのではありませんか?
ちなみに、プチコン4を持っていなくてもSBAPIというツールで
公開キーのプログラムを見れますヨ!
http://sbapi.me/get/4XEKE8EHV/info追記:
XがCOSでYがSINだったような…?
あと、SINとCOSにもラジアンを入れるようです。
ということで、
(X3,Y3)=(COS(RAD(DIR)),SIN(RAD(DIR)))
DEG=DEG(ACOS(DOT))
で良いと思います。多分。