Para modificar el texto del paginator primero cree un archivo con este código...

import { MatPaginatorIntl } from "@angular/material/paginator";
export function getPaginatorIntl() {
 const paginatorIntl = new MatPaginatorIntl();
 paginatorIntl.itemsPerPageLabel = "Items por página:";
 paginatorIntl.nextPageLabel = "Página siguiente ";
 paginatorIntl.previousPageLabel = "Página anterior";
 paginatorIntl.firstPageLabel = "Primera página";
 paginatorIntl.lastPageLabel = "Última página"
 return paginatorIntl;
}

Y en el módulo de Material agregué lo siguiente en los providers

providers: [
    { provide: MatPaginatorIntl, useValue: getPaginatorIntl() }
  ]

Si alguien conoce una mejor manera de hacerlo me gustaría mucho saberla. Gracias.