Harput'ta Alaca mescidin sol tarafından bir iki metre aşağı indikten sonra kayalar üzerinde küçük bir kapı görülür. Bu Arap baba türbesinin kapısıdır.İçeride yatan ise Arap baba'dır.
 
Arap baba ile ilgili bir çok efsane anlatılagelmiştir.İşte en çok bilinen ve anlatılan efsane...
 
Harput'ta Alaca mescidin sol tarafından bir iki metre aşağı indikten sonra kayalar üzerinde küçük bir kapı görülür. Bu Arap baba türbesinin kapısıdır.Türbe dikdörtgen şeklindedir.Zeminin tam ortasında yeşil kumaşla örtülü tahtadan bir sandukça içerisinde Arap babanın cesedi bulunur. Cesedin başı yoktur. Sonradan buraya kesik bir baş konmuşsa da kesik başın cesetle hiç bir ilgisinin olmadığı görülür. Bütün uzuvlarıyla olduğu gibi varlığını sürdüren cesedin göğüs ve karnı nispeten çökmüş, özellikle el ve ayakları tırnaklarına varıncaya kadar şaşılacak bir biçimde sağlamdır. Cesedin uzun zaman mumyalanmış olduğu ifade edilmişse de bu konuda yapılan çalışmalarda sağlıklı bir sonuca varılamamıştır.
 
Arap Baba hakkında pek çok efsane anlatılır. Bunlardan en fazla söyleneni şöyledir.
 
Harput ve yöresinde bir yıl yağmur yağmaz. Kuraklık ardından kıtlık kapıya dayanır. Halk perişandır. Alacalı mescidin yakınındaki bir evde Selvi adlı yaşlı bir kadın rüyasında Arap babanın başı kesilipte bir dereye atılırsa yağmur yağacağını görür. Yaşlı kadın önceleri buna pek bir anlam vermez. Ancak aynı rüyayı üç gece üst üste görünce karar verir ve bir gece Arap babanın cesedinin başını gövdesinden ayırır. Kesik başı dereye atar. Gerçektende yağmur yağmaya başlar. Ama ne yağmur... Yağmur değil adeta tufan. Dereler coşar, her yanı sel basar bir türlü dinmek bilmez. Yağmuru dört gözle bekleyen insanlar bu seferde bu felaket karşısında muzdarip olurlar. Selvi kadın rüyasında Arap babanın kesilen başı yerine konulursa yağmurun dineceğini görür. Arar,bir kesik baş bulur, yerine koyar yağmur durur.
 
Harputlular bu olay üzerine Selvi kadının korkunç bir hastalığa yakalanarak günlerce ızdırap çektiğini sonrada öldüğünü söylerler