迄今为止，最古老的长鼻类化石在2009年发现于欧洲摩洛哥的上古新世地层（大约6000万年前），也就是恐龙时代结束不久的500万年后。那个时期，出现了一种像兔子般大小，体长只有50-60厘米，体重4-5
千克的史前兽类，它被命名为Eritherium azzouzorum。Eritherium的牙齿特征表明它就是目前已知的
大象最早起源，它处于
近蹄类之中一个以前未知的原始阶段，并且“有蹄”。在Eritherium化石被发现之前，人们在同一
地层发现了5500万年前的磷灰兽（Phosphatherium），曾被认为是
长鼻类最早的祖先。然而，在磷灰兽出现之前很长一段时间，人们则普遍认为大象最原始的祖先是
始祖象。它出现在5千万年前的
始新世非洲。始祖象
学名始祖象，意为来自
埃及的摩里斯湖（Lake Moeris）的野兽。它的体型依然很小，大小近似现代
亚洲貘，有5个趾头，长着长尾巴，有几个不同的种。始祖象生活在
沼泽与河畔，以柔软的
水生植物为主食，
生态位类似于今天的
河马。这些长鼻类的古老原始种类看上去并不像“真正的”长鼻类，因为它们并没有长出象牙和象鼻。但是，它们的牙齿开始出现
长鼻类的有关特征，比如
始祖象，尽管缺乏象牙，但是上下
门齿已经突出，将进化成未来
乳齿象类（Mastodon）的象牙。