סוגיית ההפרדה בין המשטרה לגוף הממונה על הכליאה עלתה עוד במהלך המנדט הבריטי. המשטרה הבריטית היא אולי המנוסה ביותר בסוגיה זו. משרד המושבות שביקש ליישם בקולוניות מדיניות אחידה, החל לפצל בין שני הגופים. בישראל קרה הדבר בסמוך לתום המנדט.
עם כיבוש הארץ על ידי הבריטים ב- 1918 והמעבר לממשל אזרחי, ב-1 ביולי 1920, הייתה המשטרה האזרחית (שכונתה 'משטרת פלסטינה ושירות בתי-הסוהר' - Palestine Police and Prison), אחראית גם על הכליאה. היא הוכפפה לנציב העליון, ובראשה הועמד, עד 1923, מייג'ור יו טיודור (טייכר, 2003, עמ' 139; כספי, 1984, עמ' 142).
הדיון בהפרדת שירות בתי הסוהר מהמשטרה החל בשנות ה-30 של המאה הקודמת, אך בפועל התבצע בשנת 1946. פקודת בתי-הסוהר השלישית מה- 5 בפברואר 1946 [פקודת המשטרה ובתי-הסוהר (הפרדה) (הוראות שונות), 1946], שביטלה את הפקודה משנת 1940, ונשארה בתוקף גם לאחר הקמת מדינת ישראל, עד 1971. פקודה זו הייתה מבחינה טכנית כוללת ומשוכללת יותר מזו של 1940 וניכר היה בה הניסיון המצטבר של 25 שנים בניהול בתי-סוהר על-ידי השלטון המנדטורי. הפקודה תוקנה, בסעיפים בודדים, פעמיים: בשנת 1947 ופעם בשנת 1948; והמסד שבנתה נשאר בתוקף עד קום המדינה. בדברי ההסבר מטעם ממשלת המנדט הודגש, שעיקר הפקודה הוא הפרדת בתי-הסוהר מהמשטרה, ושכוונתה היא 'להעמיד את ארץ-ישראל בשורה אחת עם הארצות המתקדמות בעולם, שם קיים שירות בתי-סוהר ללא כל קשר עם המשטרה' (כספי, 1984, עמ' 144-143).
עם הקמת המדינה, בוטלה זמנית ההפרדה בין שירות בתי הסוהר למשטרה, והשירות בתקופה זו פעל כאגף במטה הארצי של המשטרה. הסיבות לכך היו קשיי תקציב וארגון, וגם החשש של שר המשטרה, בכור שטרית, שההפרדה תגרע מסמכותו.
היות שביטול ההפרדה נגד את פקודת בתי הסוהר משנת 1946, נדרש לכך פתרון חוקי. משרד המשפטים הציע פתרון, שלא יצריך חקיקה חדשה, וזאת באמצעות מינוי אדם אחד שיכהן בשני תפקידים, הן כמנכ"ל משרד המשטרה והן כממונה על בתי הסוהר. ההצעה עוררה ויכוחים באשר לחוקיות ההסדר, שכן הכפפה של שני התפקידים לאדם אחד נראתה כנוגדת את כוונת הפקודה.
בסופו של דבר, השתכנע שר המשטרה, שעדיף להפריד בין המשטרה ושב"ס והודיע למפכ"ל, שיש להפריד בין המשטרה לשב"ס החל מ-1.1.1949.
ב-2.1.1949 מונה חיים (גירי) גרא, כממלא מקום מנהל שירות בתי הסוהר. תוארו היה נציב, על פי הכתוב בפקודה מ-1946 (תימור, 2009).
במהלך השנים, הועלה נושא ההפרדה מחדש לסדר היום עוד מספר פעמים (תימור, 2009):
ב-1953 העלה אותו פנחס לבון, שעמד בראש ועדה ממשלתית לקיצוצים ולחיסכון במנגנון הממשלתי. זאת, מתוך הנחה שביטול ההפרדה יביא לחיסכון כלכלי. הוועדה החליטה, בסופו של דבר, שלא להגיש הצעה כזו.
בשנת 1958, בעקבות המרד והבריחה ההמונית מכלא שאטה, הועלתה מחדש הצעה כזו בדיון בממשלה, הפעם מתוך היבט ביטחוני. על סמך חוות דעתו של מפכ"ל המשטרה והמלצת שר המשטרה, החליטה אז הממשלה, שבהתחשב בתפקידיו המיוחדים של שירות בתי הסוהר, הוא יוסיף להתקיים כיחידה נפרדת.
בשנת 1960 עלה הנושא מחדש במסגרת הדיונים של הוועדה לחיסכון ולקימוצים.
בשנת 1966 הוא עלה שוב במסגרת ועדה לבדיקת התועלת הארגונית והמנהלתית הצפויה מאיחוד שב"ס עם משטרת ישראל.
הוועדות התלבטו בשאלה, אם איחוד שתי הרשויות עשוי לייעל את המערכת ולחסוך משאבים. כן התלבטו הוועדות בשאלות, מה ייעשה עם הסוהרים שתפקידיהם יבוטלו עם המיזוג. בסופו של דבר, לא בוטלה ההפרדה (תימור, 2009).
האמת היא שכליאה היא מקצוע שונה משיטור, עם רציונל שונה לחלוטין, בסיכומו של עניין, דומה כי בתחום זה אין לנו מה לחדש על הניסיון הבריטי, וטוב המצב הנוכחי, כפי שהוא!