בסוף שנת 1917 כבש הצבא הבריטי את ארץ ישראל. במהלך השנתיים הראשונות לאחר הכיבוש פעל בה ממשל צבאי, שכונה בראשי התיבות O.E.T.A.. בתקופה זו נמנעו השלטונות מהקמת כוח משטרה המבוסס על אנשיהם, ואימצו את דפוסי השיטור שהיו נהוגים קודם לכן. במסגרת זו, אפשר הממשל הצבאי את הקמתן של יחידות משטרה מקומיות ונמשכה העסקתם של גאפירים, שוטרים מקומיים בכפרים. בעקבות זאת החליטה ועידת השומר, בשנת 1918, לפעול במטרה להקים משטרה עברית. רבים מחברי הארגון התגייסו לשורות משטרת טבריה, ובהסכמת הבריטים ייסדו את "המשטרה המיוחדת", שפעלה באזורים הכפריים בגליל עד לשנת 1921.

באפריל 1920 התחוללו בארץ התפרעויות בהיקף רחב, אותן יזמו מנהיגים ערביים שהתנגדו לציונות. חוסר יכולתו של ארגון השומר לתת מענה לאירועים בהיקף שכזה עמדה בבסיס ההחלטה של חברי הארגון לפרקו ולהקים במקומו ארגון ארצי, ה"הגנה", שלא נועד לעסוק בשיטור.

בשנת 1920 פורק הממשל הצבאי הבריטי בארץ ישראל והסמכות השלטונית הועברה לידי הנציב העליון וממשלת המנדט. זו עשתה שימוש בניסיון העשיר שצברו הבריטים בהקמת כוחות שיטור והפעלתם, בבריטניה עצמה ובמושבותיה השונות, במהלך תכנון כוח המשטרה שיפעל בארץ ישראל.

המשטרה המנדטורית (Palestine Police Force), שהוקמה בשנת 1920, אורגנה במבנה ארצי. הארץ חולקה למחוזות משטרתיים, שחולקו לנפות (כיום: מרחבים) ולתחנות. על המשטרה פיקד המפקח הכללי, שנעזר לצורך זה במטה ארצי, שכלל מחלקה לחקירת פשעים ולמודיעין (שכונתה "הבולשת", C.I.D.), מחלקת תנועה ואגפי מטה ומנהלה. זאת בדומה למבנה המשטרות שהיה נהוג במושבות הבריטיות ובניגוד למשטרה בבריטניה גופא, אשר פעלה על בסיס אזורי או עירוני. יוצאת מן הכלל הייתה העיר תל-אביב, בה נוסדה בשנת 1921 משטרה עירונית, הכפופה לראש העירייה ולא למפכ"ל (אם כי היא הוכפפה למרותו, באופן חלקי, בשנת 1931). 

את הבסיס החוקי לפעילות הארגון סיפקה פקודת המשטרה, אשר פורסמה לראשונה בשנת 1921 ועודכנה באופן נרחב בשנת 1926.

משטרת המנדט כללה חלוקה לשתי "סקציות" (מחלקות), אחת בריטית והשנייה פלשתינאית (כלומר, ארץ-ישראלית). בראשונה שירתו שוטרים בריטים, שמילאו מגוון תפקידים והיוו רוב מכריע בקרב המפקדים והקצינים בארגון. השנייה כללה שוטרים מקומיים, יהודים וערבים כאחד, שמילאו בעיקר תפקידי שטח זוטרים. היו הבדלים ניכרים בתנאי ההעסקה בין השוטרים: בעוד ששוטר בריטי קיבל את שכרו בעין יפה, הייתה המשכורת ששולמה לשוטרים המקומיים נמוכה מאוד.

במקביל למשטרה הרגילה, פעלו בארץ בתקופת המנדט גם יחידות ייעודיות לשמירה על הסדר הציבורי ועל ביטחון הפנים. בשנים 1926-1921 פעלו בארץ שתי יחידות ז'נדרמריה, אחת שכללה שוטרים בריטים בלבד (British Gendarmerie) ואחת בה היו שוטרים ערבים, צ'רקסים ויהודים, תחת פיקוד בריטי (Palestinian Gendarmerie, כונתה ביישוב בשם "המשטרה המעולה"). לאחר שפרץ המרד הערבי הגדול בארץ, בשנת 1936, התגייסו יהודים רבים לשרת כ"נוטרים", כוח עזר למשטרת המנדט. הנוטרים גויסו לפרק זמן מוגבל ועסקו בעיקר בתפקידי הגנה וביטחון, ולא בתפקידי שיטור "קלאסיים", כגון לחימה בפשיעה. רובם המכריע של הנוטרים היו חברי ארגון ההגנה. בשנת 1939 מוסדה הנוטרות כ"משטרת היישובים העבריים" (Jewish Settlement Police), אשר כללה עשרה גדודים ומילאה משימות הגנה בשטחי ארץ ישראל. יחידת משטרה צבאית-למחצה נוספת הייתה "המשטרה הניידת" (Police Mobile Force), כוח בהרכב בריטי לחלוטין שפעל כנגד ארגוני המרי היהודיים וכנגד ההעפלה בשנים 1946-1945.

המאבק לשמירה על השלטון הבריטי בארץ ישראל היה עיקר פעילותה של משטרת המנדט ותכלית קיומה. דבר זה התבטא בעיקר בהתמודדות עם מעשי איבה בין ערבים ליהודים ובמאבק כנגד ניסיונות מצד תושבי הארץ להתמרד כנגד הממשלה.

כתוצאה מהאיבה הערבית כלפי המפעל הציוני פרצו בארץ מאורעות אלימים, שהתאפיינו בהתקפות כנגד יהודים ורכושם. למרבה הצער, גילתה המשטרה בדרך כלל אוזלת יד בהתמודדות עם התקפות שכאלה. כישלונות המשטרה להגן על יהודים במאורעות תר"פ (1920), תרפ"א (1921), תרפ"ט (1929) ותרצ"ו-תרצ"ט (המרד הערבי הגדול, 1936-1939) גרמו לקורבנות רבים והביאו למספר שינויים ורפורמות במבנה הארגון. במהלך המאורעות האלימים אירעו מקרים שבהם סייעו שוטרים ערבים לפורעים, לעתים באופן פעיל.

לאחר פרסום הספר הלבן של שנת 1939 ואימוץ עמדה אנטי-ציונית על ידי שלטונות בריטניה, הגבירה משטרת המנדט את פעילותה כנגד היישוב וארגוני המחתרת שלו והקצתה לכך את עיקר משאביה. עד לתום המנדט, ובמיוחד לאחר סוף מלחמת העולם השנייה, עסקו השוטרים בעיקר בחיפושים אחר נשק לא-חוקי בישובים יהודיים, במעצר מעפילים, בניסיונות לחסל את ארגוני המחתרת ה"פורשים", קרי האצ"ל והלח"י ואף במאבק כנגד הנהגת היישוב וארגון ההגנה.

מיד לאחר קבלת החלטת החלוקה בעצרת האו"ם, בכ"ט בנובמבר 1947, פרצה בארץ מלחמת אזרחים בין הערבים, שביקשו למנוע את מימוש ההחלטה, ליהודים. משלב זה ועד לתום שלטון המנדט עסקו השוטרים הבריטיים בעיקר בהגנה על מתקני הממשלה ועל עצמם ומשטרת המנדט החלה להתפורר. תחנות ננטשו, ציוד ומסמכים הושמדו או אבדו ונעלמה כל מראית עין של ניסיון לשמור על הסדר הציבורי ולאכוף את החוק. השוטרים היהודים במשטרת המנדט, שנותרו בתחנות בהן שירתו, עשו מאמץ גדול על מנת לקיים את שלטון החוק ואת הסדר הציבורי בתקופה זו.

משטרת המנדט התפרקה מיד לאחר סיום השלטון הבריטי בארץ ישראל. למרות שהייתה ארגון שפעל רבות כנגד היישוב היהודי, היוותה משטרת המנדט את הבסיס עליו נבנתה משטרת ישראל והשפעת חלקים ממורשתה ניכרת עד לימינו.