ستون توبه در مسجد النبی و در محدوده روضه‌النبی قرار دارد و فاصله آن تا قبر پیامبر دو ستون است. این ستون چهارمین ستون از سمت منبر پیامبر و سومین ستون از سمت قبله است. ستون قرعه در سمت غربی آن قرار دارد و درِ خانه پیامبر که به درون مسجد باز می‌شود، برابر این ستون واقع است. به همین دلیل به آن «باب التوبه» می‌گویند.

بر پایه گزارش مشهور، پس از پیمان‌شکنی یهودیان بنی‌قریضه در غزوه احزاب و اقدام ایشان بر ضد پیامبر (صلی الله علیه وآله وسلم)، قلعه‌های آنها محاصره شد. یهودیان از پیامبر خواستند تا ابولبابه، هم‌پیمان اوسی ایشان را برای مشورت نزد آنها بفرستد.

هنگامی که ابولبابه نزد یهودیان رسید، در پاسخ آن‌ها درباره تسلیم شدنشان به پیامبر، با دست به گلوی خود اشاره کرده و به آنان فهماند که در صورت تسلیم شدن، کشته خواهند شد. بر اساس آنچه خود ابولبابه گفته، وی هنوز گامی برنداشته بود که احساس خیانت به خداوند و پیامبر وجودش را فراگرفت و برای رهایی از عذاب وجدان به مسجدالنبی رفت و خود را با طناب به ستونی بست و سوگند خورد اجازه ندهد جز پیامبر (صلی الله علیه وآله وسلم) کسی او را از آن ستون باز کند.

پس از شش، هفت یا 20 شبانه روز﴿یَا أَیُّهَا الَّذِینَ آمَنُوا لاَ تَخُونُوا اللهَ و الرَّسُولَ وَتَخُونُوا أَمَانَاتِکُم وَأَنتُم تَعلَمُونَ﴾ (انفال/8، 27) نازل و توبه او پذیرفته شد.

بنا بر روایتی، پیامبر بیشترین نمازهای نافله خود را کنار ستون توبه می‌خواندند. ذکر شده پیامبر، بعد از نماز صبح کنار این ستون می‌نشستند و فقیران و ناتوانان، دور ایشان می‌نشستند و حضرت تا طلوع آفتاب با آنها گفتگو می‌کردند و آیاتی را که در آن شب بر ایشان نازل شده بود، برای آنها تلاوت می‌کردند. همچنین در منابع آمده، رسول خدا گاهی کنار ستون توبه اعتکاف می‌کردند و فرش یا تختشان را پشت ستون توبه می‌گذاشتند.

بر پایه روایات، مستحب است زائر مدینه چهارشنبه تا جمعه در این شهر اقامت کند و روزه بگیرد و روز چهارشنبه نمازش را نزد ستون توبه به‌جا آورد. همچنین خواندن نماز، عبادت و دعا و تبرک جستن نزد این ستون، مستحب است.