(9:21追記 頭が回ってなくて多数計算ミスをしてました。16桁の話以外は直せたと思います)
DATファイルとGRPファイルはどうやら28バイトでなにかしらのメタデータを保持しているようですね。
なお、プチコンの数値配列には整数型配列と実数型配列があり、1要素のサイズが前者は4バイト、後者が8バイトです。DIM A%[]とすると整数配列になるので、そちらも一度試してみてはいかがでしょう。
数値に関して、実数型(以下64ビット浮動小数型と呼びます)は指数を用いた形式でして、雑に書き表すと「符号×仮数部×POW(2,指数部)」という形式です(実際はもう少し複雑ですが)。
(Wikipediaで確認しながら)標準規格に沿うと、64ビット浮動小数型は仮数部52ビット、指数部11ビット、符号1ビットをとるそうですね。
仮数部は「ケチ表現」によって52ビットでありながら53ビット相当の情報を持ちます。1ビット分表現に使うビットをケチれるのでケチ表現。
指数部は、0埋め(ビット表現上の0)と1埋め(ビット表現上の2047(10進法))は特別な意味を持ち、さらに数値の読み替え(バイアス)によって、ビット表現上の1023(10進法)が指数部0を指します。
これより、ビット表現上の2046(10進法)が指数として意味を持つ最大値で、このとき指数部は1023(10進法)となります。
以上の情報をまとめつつ細かい計算の中身を端折って説明すると、表せる最大値は「POW(2,1024)よりちょっと小さい数」(といっても2^1024との差は2の(だいたい)970乗という大きい数です)になります。
これを超えるとinf扱いになるっぽいですし、infが絡む特定の計算はNaN(Not a Number)になります(不定形など)。
(また、64ビット浮動小数は10進法約16桁の精度を持つといわれています。これが意味するところをどう説明できるかは、後にさせてください)
ここまで書いて、細かいことを確かめるためにググって気づいたのですが、このあたりのことは、まとめWikiにまとめてありました……(ググったら上位に出てきた)
http://wiki.hosiken.jp/petc3gou/?Mame%2FMathInfNan