Hallo Andy,
du solltest damit beginnen, hier im Forum und in der Fachliteratur zu stöbern, zu lesen und dir ein gewisses Grundwissen anzueignen. Parallel kannst du schon ein paar Münzen kaufen, aber fange mit günstigen Stücken an (da ist es nicht ganz so schlimm, wenn man mal etwas Geld für manipulierte, gefälschte oder nur einfach zu überhöhten Preisen verkaufte Münzen verliert). Ich würde einem Anfänger (je nach Geldbeutel des Anfängers

), dazu raten, in der Preisklasse von 10 oder 20 Euro zu beginnen. Immerhin hast du schon ein umgrenztes Interessensgebiet, da kannst du dir dann verhältnismäßig schnell die historischen und numismatischen Grundkenntnisse erarbeiten...
Ich (= in erster Linie Römersammler) finde natürlich die Römer besonders schön

Desweiteren gibt es da weitere Vorteile: "Normale" Römer sind häufig, und darum immer gut zu bekommen. Und es gibt einige (auch anfängergerechte und günstige) Literatur. Auch die Bestimmung ist meist einfacher, da die Legenden in der Regel den Kaiser nennen. Hier mal einen Link, was man mit etwa 20 Euro schon alles erreichen kann:
http://www.numismatikforum.de/viewtopic.php?f=6&t=31417
Mittelalter (ich nehme an, das meinst du mit frühem Österreich?) ist etwas schwieriger: Die Münzbilder sind oft schwierig erkennbar, viele Städte prägen sehr ähnliche Münzen, Legenden fehlen meistens oder sind nur unvollständig lesbar... Und die Literatur ist in der Regel sehr spezialisiert und teuer.
Bei weiteren Fragen stehen wir gern zur Verfügung (auch per PN, wenn du zB etwas zur Echtheit einer ebay-Münze wissen willst, aber das Stück nicht in der Öffentlichkeit verlinken willst).
Schöne Grüße,
MR