1- Il D3D non è un linguaggio, è l'abbreviazione di Direct3D (guarda Wikipedia).
2- Se la dll è scritta in un linguaggio compilato non è possibile tornare al codice nativo (a meno che non sia interpretato). Puoi comunque disassemblare l'eseguibile per ritradurre il linguaggio macchina scritto dal compilatore in linguaggio mnemonico (Assembly).
3- Per disassemblare un exe/dll puoi utilizzare appositi software chiamati disassembler, come IDA Pro e OllyDBG. Chiaramente è necessario avere buone conoscenze del linguaggio Assembly.
4- Questo non riguarda la programmazione ma il reverse engineering. Quindi sposto.