Piponun ortaya çıkışı tütünden çok öncedir, hatta piponun tarihinin insanlık tarihi kadar eski olduğu bile söylenebilir, çünkü tarih öncesi döneme ait birçok arkeolojik kazıda demir cevheri veya pişirilmiş kilden yapılmış pipolar bulunmuştur. Ahşap pipoya rastlanmamasının nedeni ahşabın dayanıksızlığı olabilir. Bu pipoların bir bölü-mü tütsü kabı ve buhurdan, bir bölümü de, halen Okyanus adalarında devam eden, çeşitli otların tütün gibi içilmesi amacıyla kullanılmış gerçek pipolardır. Bugüne kadar bulunmuş olan en eski pipo, Kuzey Amerikada gün ışığına çıkarılmıştır ve M.Ö. 5000-6000 yıllarına tarihlendirilmektedir.
Modern yani bugünkü biçime benzeyen ve tütün içilen pipoların tarihi Jean Nicot ya dayandırılsa da, ilk pipoların Avrupaya Latin Amerikadan İspanyol ve Portekizli denizciler tarafından yerlilerden alınıp getirildiği daha akla yakın gelmektedir.
16. yüzyıl sonlarına gelindiğinde pipo Avrupada iyice yaygınlaşmış, Hollanda, İngiltere, Prusyada pipo yapımına başlanmıştır. Modern anlamda pipo yapımı ve tütün kesiminin öncüsü olan Fransaya ise pipo biraz daha geç girmiştir. XIV. Louisnin ordularının fethettikleri topraklarda pipoyla tanışmasından sonra, pipo Fransada askerler ve halk arasında popüler olmuş, Louis askerlere tütün tayını tahsis edip, her askerin pipo ve gerekli avadanlıkları (çakmaktaşı, pipo kaşığı vb.) taşıması zorunluluğunu getirmiştir.
Piponun halk arasında entel veya snop işi olarak görüldüğü doğruysa da, dünya tiryakilerinin gözbebeği lületaşı pipolar Anadoluda üretilmektedir. Topraktan çıkarıldığında çok yumuşak, dolayısıyla işlenmeye çok uygun olan, biçim verilmesinden kısa bir süre sonra süt beyaz bir renkte sertleşip hafifleyen ve gözenekli yapısından dolayı çok emici bir özelliğe sahip olan lületaşı yalnızca Anadolu topraklarında bulunur. Bu özelliği yüzyıllardır bilindiğinden lüle yani ağızlık, boru anlamındaki bu adı almıştır. 19. yüzyıl başlarında Avusturyalı tüccarlar tarafından keşfedilip pipo yapımında kullanılmaya başlanmıştır ve birçok Avrupa dilinde Avusturyalılardan alınan, denizköpüğü anlamına gelen Meerschaum sözcüğü kullanılmaktadır.
Lületaşının bu adı esinleyen özelliği, kullanıldığı sürece, farklı süzme niteliğinden dolayı her yerinin farklı biçimde renk değişimine uğraması ve renk armonisi yaratmasıdır. Ayrıca lületaşının, yüksek soğurma özelliğiyle, içene ahşap pipolardaki gibi tahta tadı vermemesi nedeniyle tiryakilerce bu kadar tutulduğu da unutulmamalıdır.
Pipo gördüğü ilgiye karşın Fransa sarayına girememiş, Fransız aristokrasisi enfiyeyi tütüne tercih etmiştir. Prusya soyluları ise tütün ve pipoyu daima sevmişlerdir. I. Friedrich Wilhelm yönetim kurulu toplantılarında sürekli pipo içilmesinin temel kural olduğu Tobakscollegıum adında bir tütün akademisi bile kurmuş ve başına geçmiştir. Ama pipo 17.-18. yüzyıl süresince yayılıp sokağa çıkmasına ve gündelik hayata yerleşmesine karşın, aristokratik mekânlara, diplomatik resepsiyonlara bir türlü giremedi. Piponun bu mekânları fethi 20. yüzyılda olacak, ancak artık halkın tütün zevkini paketlenmiş sigara karşılarken pipo sanatçı ve bilim adamlarına özgü kalacaktır.