PC のライン入力に繋いで PC 側で FFT してみました。 まずリファレンスとして 1kHz -20dBFS 信号 http://www.jppanet.or.jp/documents/audio.html を mp3 に変換したものを標準の「ニンテンドー3DSサウンド」で再生した場合 信号(1kHz)に対してノイズは -60dB 以下です。 対してもーたさんのプログラムを実行した場合は、倍音や倍音の折り返しノイズがひどくて -40dB 程度ありますね。(440Hz でも 1kHz でも) 32728Hzまたは32730Hzで再生した場合は、倍音はほぼ消えて、唯一 3 倍音だけが残りそれが -40dB です。 16364Hzの場合は信号とその3倍音の鏡像(15920Hz)が-30dBくらい出てきます。 総じてリサンプリングの処理がまずいようですね。