Si tu débutes, il va falloir avant de créer ton mod apprendre des languages de programmation donc, tu peux oublier la création du mod pendant 1 ou 2 ans (ca depend de ta rapidité mais c´est extremement compliqué, moi meme je ne les connais pas), il y a comme language C Sharp mais je te deconseille de commencer avec ca. Commence avec peut etre a la rigueur le language de programmation C++ mais c´est déjà compliqué. Ensuite, dans ton mod, si tu rajoute des maps, skins...il te faudra Blender3D et des logiciels The Gimp (Gimp 2.0 par exemple) et pour un bon skinning et GtkRadiant pour le mapping.
Ceci dit, au lieu de commencer directement ton mod qui sera en 3D forcément, je te conseille de commencer a créer des jeux complets (qu´il soit court ou long) en 2D. Pour cela, je ne voies pas mieux que le logiciel RPG Maker.
Tout ces logiciels sont gratuits mais certains en anglais comme Blender3D.
Bonne chance