Oppenheim 和 Willsky 的Signals and Systems或 Lathi 的Linear Systems and Signals是为只学过一个学期微分方程的大二学生准备的，因此批评他们忽略了泛函分析和保形映射有点不公平。在大二时，我最喜欢的书是 Siebert 的《电路、信号和系统》。 它也不会给你想要的数学严谨性，但你可以看到他对数学的热爱，他有这些精彩、诙谐的脚注，提供了一个伟大的历史视角。

（应用）数学家理查德·汉明（Richard Hamming）有一本很棒的书（我喜欢，但不推荐给你）（关于“汉明窗”、“汉明码”、“汉明距离”、“汉明界”和“汉明问题”）称为数字滤波器。在其中，他发表了许多尖刻的评论，例如：

由于我们主要对使用数学感兴趣，因此我们不得不在数学严谨性方面表现得模棱两可。那些认为数学严谨性证明在应用程序中使用数学是合理的人被称为 Lighthill 和 Papoulis 的严谨性；那些相信在实践中有用的人证明了数学的合理性，请参阅本书的其余部分。（1998 年多佛版，第 72 页。）

因此，除了@Matt_L 推荐的 Papoulis 的书之外，我还将添加 Hamming（和 Siebert！）对 MJ Lighthill 的推荐，傅里叶分析和广义函数，剑桥大学出版社，1958 年。

你应该看看 Moon 和 Stirling 的“信号处理的数学方法和算法”。唯一的缺点是它的勘误表很长，所以希望很快会有一个新版本。

Papoulis 的《傅里叶积分及其应用》是一本关于信号和系统理论中使用的傅里叶变换的精美书籍。这本书很老了，但我认为这是一本很棒的书。它只处理连续时间系统。你可以在网上找到一个pdf。

如果您对滤波器组和变换感兴趣，您应该查看 Strang 的“Wavelets and Filter Banks”和 Vaidyanathan 的“Multirate Systems and Filter Banks”。

遵循严格数学（即定理/证明）风格的通用信号处理书籍并不多。Damelin 和 Miller的信号处理数学可能正是您所想的。从前言：

基本上，这是一本关于数学的书......其中来自信号处理的想法被用来激发大部分材料，并且以理论在信号处理中的应用为特色。它适用于对数学结构的潜在应用感兴趣的数学学生，以及希望了解其学科数学基础的应用领域的学生。