Já te responderam bem sobre a questão da privacidade, mas sendo mais realista em relação a você não "manjar dos paranauês", algo bem simples que você pode fazer e que dá um ganho de privacidade é remover esses aplicativos básicos, tipo bloco de notas, calculadora, etc, por apps livres, que podem ser encontrados na f-droid.
Se manjar um pouquinho, pode usar um programa chamado universal android debloater pra remover boa parte desses apps do seu celular usando um pc.
Não vai ser açgo perfeito, mas já é melhor do que o sistema tal como veio do fabricante. Pra ir além disso, só ocm custom rom mesmo.
Some software developers prefer to host their own repos and have more control over the release process and/or don't want to fill all the criteria for being included on f-droid, so they create their own repos. Some of these apps can still be found on vanilla fdroid, but often aren't updated so frequently.
Izzyondroid, on the other hand, is a different project, aimed at hosting different apps that are usually from smaller devs and can't be included on fdroid yet, for different reasons.
The greatest thing about fdroid is that it allows anyone to create their own repos and you aren't forced to depend on anyone.