לארץ ישראל הגיעה המשטרה המודרנית בעקבות רפורמות שנערכו באימפריה העות'מאנית באמצע המאה התשע עשרה, אשר כונו בשם "תנט'ימאת". במסגרת זו הוקמו ברחבי האימפריה יחידות משטרה מקומיות וז'נדרמריה (כוח שיטור צבאי-למחצה). למרות השאיפה לייסד כוחות שיטור יעילים במתכונת אירופאית, לא השקיעו השלטונות משאבים רבים בכוח האדם או בציוד שהועמדו לצורך זה. הדבר בא לידי ביטוי בשכר הנמוך אשר שולם לשוטרים ולז'נדרמים. כתוצאה מכך פשתה שחיתות בוטה ונרחבת בקרב אנשי המשטרה, במיוחד בפרובינציות.

בארץ ישראל ייסד השלטון העות'מאני יחידות משטרה, שהיו כפופות לעיריות (למשל, בירושלים וביפו). כמו כן, פעלו בארץ גם יחידות ז'נדרמריה, שנועדו לפעול באזורים הכפריים. נוסף על אלה, נדרשו הכפרים להעסיק שומרים מטעמם (שכונו, בין היתר, "גאפירים"), אשר היו כפופים לראש הכפר (מוח'תאר) וסייעו לו לשמור על החוק והסדר בכפר.

ככלל, היו יחידות המשטרה והז'נדרמריה העות'מאניות בארץ ישראל קטנות, לא מיומנות ובראשן מפקדים מושחתים. אין זה מפתיע, אם כן, כי כוחות אלה לא סיפקו הגנה ולא הביאו למימוש שלטון החוק בחלקים נרחבים מארץ ישראל.

המתיישבים היהודים, שהגיעו לארץ ישראל במסגרת העליות הראשונות והקימו בה יישובים חקלאיים, סבלו מגניבות, מעשי שוד, ולעתים אף מרציחות. בכדי לשמור על יחסים טובים עם הכפרים השכנים ובשל אוזלת ידה של המשטרה, העדיפו רוב המושבות היהודיות להעסיק שומרים ערבים מישובים שכנים, הסדר שבמידה רבה היה תשלום דמי חסות בתמורה להימנעות מגניבות.

בשנת 1907 החליטה קבוצה של צעירים יהודים, בראשותו של ישראל שוחט, להקים ארגון חשאי שיפעל ל"כיבוש השמירה", קרי העסקת שומרים יהודים בלבד במושבות היהודיות. בתחילה קיבל לידיו הארגון, שכונה "בר גיורא", את השמירה בחוות סג'רה ובמושבה הסמוכה לה וזכה להערכה רבה בגליל התחתון. עם זאת, גודלו המצומצם של בר גיורא מנע מהארגון לקבל את האחריות לשמירה בכל היישובים היהודיים בגליל.

בשנת 1909 התכנסו ראשי בר גיורא והחליטו על הקמת "השומר", ארגון חדש, שיפעל בגלוי ושיהיה גדול בהרבה מקודמו. בהתאם לחוקים העות'מאניים, הוגדר השומר כחברת שמירה, המספקת שירותי שמירה ואבטחה ללקוחותיה. במקביל, היו לארגון גם מטרות חשאיות, ובהן הקמת בסיס לגוף מזוין להגנת היישוב היהודי כולו ויצירת מסד למשטרה עברית.

המוניטין המצוין לו זכה ארגון השומר הביא להתרחבותו המהירה ולשכירת שירותיו על ידי מושבות נוספות, מחוץ לגליל. עם זאת, פריצתה של מלחמת העולם הראשונה בשנת 1914 קטעה את פעילות הארגון, לאחר שמנהיגיו, שהיו אזרחים רוסיים (מדינה שלחמה כנגד האימפריה העות'מאנית), הוגלו לתורכיה.