万葉集よりも前には、日本の歌謡として「記紀歌謡」があります。これは古事記や日本書紀に収められた歌で、日本最古の歌謡とされています。また、万葉集に収録されている歌の中には、5世紀前半の人物の作と伝わる歌も含まれており、それ以前から民謡や宮廷歌謡、芸能に付随した歌謡が歌い継がれていたと考えられます
古代日本では、歌垣という歌をかけあい恋人を見つける行事が広く行われていたようで、これも歌謡の一形態と言えるでしょう。また、宴席で恋人同士を装って歌を詠み合うこともありました。これらの歌謡は、後に和歌や俳句の形成に影響を与えたとされています。