遅い返信すみません。
最終的なゴールはスプライトの面でできた立方体を、任意のワールド座標に表示させることです。
そのためにまずレイヤー#1〜#6を立方体状に配置させます。とりあえずここでは1辺512ピクセルで。
そのあとスプライトの面をレイヤー#1〜#6にそれぞれSPLAYERさせた上で表示させるのですが、その位置をワールド座標から計算させたいのです。
変形していないレイヤー#0にある#GSPRITEにグラフィックで線やポリゴンを出すなら単にワールド座標からスクリーン座標に変換するだけでOKで、それは既にできています。
しかしそれぞれの面のスプライトを、それぞれ立方体状のそれぞれの面のレイヤーに所属させているので、レイヤー座標に変換しなければいけません。
そこでいまやりたいことは、最終的に表示したいスクリーン座標から、変形したレイヤー上の座標を求めたい、ということです。
図でいうと、赤と緑と青で塗り潰してある立方体をスプライトで表示させたいわけです。それぞれの色は説明用で、所属しているレイヤーの色と同じです。灰色の立方体は、ただ単にレイヤー#0にグラフィックで表示させているものと思って下さい。これは実現済みです。