会社の備品、消耗品の持ち帰りは業務上横領にあたるので、
あまり抵抗なく（というのもなんですが）注意勧告できると思います。
それから残りをひとつずつ改善、という感じですかね…

勧告に応じず持ち帰りを続けるなら、会社としてそれなりの対応をすればいいと思います。

しかし、会社のトイレットペーパーをちょろまかす女性に、プライドがあるとも思えない。

そんなやり方はダメージ効果があるとは思えません。主さんは役職あるんですよね。私なら、まず朝礼なりの正式な場で部署全員に向けて注意をします。

皆さん、ちょっと私を見て話を聞いてください。最近気づいたことですが挨拶の声が小さいです。挨拶は人間関係の基本です。円満な業務をするため元気に行うように。特に内勤の方達、よろしくお願いします。
また備品が足りなくなることがあります。うっかりでも備品の持ち帰りは業務上横領という刑罰になります。うちの会社は厳しく見ていきますから絶対やらないように。見かけた場合にはそれなりの対処をしますのでよろしく。

と、話の区切りでその方とビシッと目を合わせて言います。全体に言ってますが当人に言ってるんですから。
視線を落としてるなら無言のまま数秒待ち、雰囲気や気配でその方が目線を上げるまで見つめます。とどめは朝礼後に呼び出し
『さっきの話ですが、〇〇さんも監督お願いしますよ？年長者ですから皆さんのお手本になるよう頼みますね』
と言い必ず返事をさせます。それで様子を見てください。

まずは法律で定められている所から攻めるのが良いと思われます。

注意する際はパワハラになる恐れもあるので、基本は１対１でしてください。
注意も怒る必要性はありません。感情的にならないように。
冷静に且つ淡々と話すようにしてください。極端に言うと子供に教えるが如きの態度で。


部下の教育は上司の務め。
すなわち部下の不備は上司の不備に当たります。

親ではないのですが上司になった以上、主さんにも責任が発生します。
対策を取っても変化ないなら評価の際にキッチリと記載して栄達出来ない事を伝えるのが宜しいのではないでしょうか。

評価により周りに対する影響も含めて会社側がなんらかのアクションをすると思いますよ。

その部下のオババ振りな行動に吹いてしまいました。
１０数年どの上司もチェック出来なかったということでしょうか？
男性上司の場合は、備品や挨拶など社内のことだとあまり気にしない
人が多そうだけど、女性は日々細かく見ている人が多いので目に付いて
しまうのかもしれませんが。または、誰も言えない社風なのですね。
今まで通用して来たことで図に乗ってしまったのでしょうね。
業務改善ということで、これを機に全部下に聞き合わせを行っては
いかがでしょうか。陰の問題も発覚するかもしれません。
彼女と打ち合わせする際には、これまでの行動を慎むように注意する。
性格によってはその前に、全員の前で「こういう人間がいるがこういう罪に
あたるから心当たりがある者は慎むように」と勧告しておく。
今回または次回から賞与などの査定で、仕事しなかった分や物品持ち出し
分をさっ引いて帳尻を合わせることは出来ないでしょうか。

ちなみにうちの会社はワンマン社長が上司みたいな小さいところで
問題行動があれば皆の前で大声で怒鳴りつけられますので
そういう意味では速いです。従えない人は退職しました。

まず問題行動は直りません。変わるとすれば、隠す行動に出ます。そして年齢を経るほど過激な行動をとります。
上司に叱られて目が覚め、まっとうな人間になるという確率は非常に少ないです。最悪大喧嘩してどちらかが退職にまでいきつくという覚悟は持っておいたほうがいいです。

その問題社員をまっとうな人間に立て直すためではなく、まず自分を守るためにやるのだという目的意識をはっきり持つべきです。
そうでなければ、絶望を味わうだけになります。
自分の中では自分の保身を第一に考えつつ、表向きの行動は「問題社員の周囲の人間と、会社の利益を守るため」という行動を一貫してとり続けなくてはなりません。
その場でカッとなって感情任せに注意するのではなく、ここで注意した場合、他社員の何割がこちらの味方になるか？と考え、社長も他社員も同意するだろうと確信を持てるときにだけ、冷静にサッと注意します。備品持ち帰りなどはまず注意しても安全そうです。
あいさつなどは他社員全員ができているかどうかによるし、仕事の押し付けについては状況によって判断が簡単な時と難しいときがあるので注意が必要です。