Bin auch kein Experte, aber ich würde mal den Artikel zu
Quadraturamplitudenmodulation empfehlen. Das ist übrigens das Modulationsverfahren, das auch bei DSL eingesetzt wird. Da gibt es direkte Formeln für Modulation und Demodulation, eignet sich also sehr gut für digitale Implementierung. Das schöne ist, dass AM und FM, so wie ich es verstehe, wohl Spezialfälle der QAM sind, sodass man auch diese Verfahren damit realisieren kann.