| rev |
line source |
|
nengel@2
|
1 /*
|
|
nengel@2
|
2 * ARM NEON optimised integer operations
|
|
nengel@2
|
3 * Copyright (c) 2009 Kostya Shishkov
|
|
nengel@2
|
4 *
|
|
nengel@2
|
5 * This file is part of FFmpeg.
|
|
nengel@2
|
6 *
|
|
nengel@2
|
7 * FFmpeg is free software; you can redistribute it and/or
|
|
nengel@2
|
8 * modify it under the terms of the GNU Lesser General Public
|
|
nengel@2
|
9 * License as published by the Free Software Foundation; either
|
|
nengel@2
|
10 * version 2.1 of the License, or (at your option) any later version.
|
|
nengel@2
|
11 *
|
|
nengel@2
|
12 * FFmpeg is distributed in the hope that it will be useful,
|
|
nengel@2
|
13 * but WITHOUT ANY WARRANTY; without even the implied warranty of
|
|
nengel@2
|
14 * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
|
|
nengel@2
|
15 * Lesser General Public License for more details.
|
|
nengel@2
|
16 *
|
|
nengel@2
|
17 * You should have received a copy of the GNU Lesser General Public
|
|
nengel@2
|
18 * License along with FFmpeg; if not, write to the Free Software
|
|
nengel@2
|
19 * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
|
|
nengel@2
|
20 */
|
|
nengel@2
|
21
|
|
nengel@2
|
22 #include "asm.S"
|
|
nengel@2
|
23
|
|
nengel@2
|
24 preserve8
|
|
nengel@2
|
25 .fpu neon
|
|
nengel@2
|
26 .text
|
|
nengel@2
|
27
|
|
nengel@2
|
28 function ff_scalarproduct_int16_neon, export=1
|
|
nengel@2
|
29 vmov.i16 q0, #0
|
|
nengel@2
|
30 vmov.i16 q1, #0
|
|
nengel@2
|
31 vmov.i16 q2, #0
|
|
nengel@2
|
32 vmov.i16 q3, #0
|
|
nengel@2
|
33 negs r3, r3
|
|
nengel@2
|
34 beq 2f
|
|
nengel@2
|
35
|
|
nengel@2
|
36 vdup.s32 q12, r3
|
|
nengel@2
|
37 1: vld1.16 {d16-d17}, [r0]!
|
|
nengel@2
|
38 vld1.16 {d20-d21}, [r1,:128]!
|
|
nengel@2
|
39 vmull.s16 q12, d16, d20
|
|
nengel@2
|
40 vld1.16 {d18-d19}, [r0]!
|
|
nengel@2
|
41 vmull.s16 q13, d17, d21
|
|
nengel@2
|
42 vld1.16 {d22-d23}, [r1,:128]!
|
|
nengel@2
|
43 vmull.s16 q14, d18, d22
|
|
nengel@2
|
44 vmull.s16 q15, d19, d23
|
|
nengel@2
|
45 vshl.s32 q8, q12, q12
|
|
nengel@2
|
46 vshl.s32 q9, q13, q12
|
|
nengel@2
|
47 vadd.s32 q0, q0, q8
|
|
nengel@2
|
48 vshl.s32 q10, q14, q12
|
|
nengel@2
|
49 vadd.s32 q1, q1, q9
|
|
nengel@2
|
50 vshl.s32 q11, q15, q12
|
|
nengel@2
|
51 vadd.s32 q2, q2, q10
|
|
nengel@2
|
52 vadd.s32 q3, q3, q11
|
|
nengel@2
|
53 subs r2, r2, #16
|
|
nengel@2
|
54 bne 1b
|
|
nengel@2
|
55 b 3f
|
|
nengel@2
|
56
|
|
nengel@2
|
57 2: vld1.16 {d16-d17}, [r0]!
|
|
nengel@2
|
58 vld1.16 {d20-d21}, [r1,:128]!
|
|
nengel@2
|
59 vmlal.s16 q0, d16, d20
|
|
nengel@2
|
60 vld1.16 {d18-d19}, [r0]!
|
|
nengel@2
|
61 vmlal.s16 q1, d17, d21
|
|
nengel@2
|
62 vld1.16 {d22-d23}, [r1,:128]!
|
|
nengel@2
|
63 vmlal.s16 q2, d18, d22
|
|
nengel@2
|
64 vmlal.s16 q3, d19, d23
|
|
nengel@2
|
65 subs r2, r2, #16
|
|
nengel@2
|
66 bne 2b
|
|
nengel@2
|
67
|
|
nengel@2
|
68 3: vpadd.s32 d16, d0, d1
|
|
nengel@2
|
69 vpadd.s32 d17, d2, d3
|
|
nengel@2
|
70 vpadd.s32 d10, d4, d5
|
|
nengel@2
|
71 vpadd.s32 d11, d6, d7
|
|
nengel@2
|
72 vpadd.s32 d0, d16, d17
|
|
nengel@2
|
73 vpadd.s32 d1, d10, d11
|
|
nengel@2
|
74 vpadd.s32 d2, d0, d1
|
|
nengel@2
|
75 vpaddl.s32 d3, d2
|
|
nengel@2
|
76 vmov.32 r0, d3[0]
|
|
nengel@2
|
77 bx lr
|
|
nengel@2
|
78 endfunc
|
|
nengel@2
|
79
|
|
nengel@2
|
80 @ scalarproduct_and_madd_int16(/*aligned*/v0,v1,v2,order,mul)
|
|
nengel@2
|
81 function ff_scalarproduct_and_madd_int16_neon, export=1
|
|
nengel@2
|
82 vld1.16 {d28[],d29[]}, [sp]
|
|
nengel@2
|
83 vmov.i16 q0, #0
|
|
nengel@2
|
84 vmov.i16 q1, #0
|
|
nengel@2
|
85 vmov.i16 q2, #0
|
|
nengel@2
|
86 vmov.i16 q3, #0
|
|
nengel@2
|
87 mov r12, r0
|
|
nengel@2
|
88
|
|
nengel@2
|
89 1: vld1.16 {d16-d17}, [r0,:128]!
|
|
nengel@2
|
90 vld1.16 {d18-d19}, [r1]!
|
|
nengel@2
|
91 vld1.16 {d20-d21}, [r2]!
|
|
nengel@2
|
92 vld1.16 {d22-d23}, [r0,:128]!
|
|
nengel@2
|
93 vld1.16 {d24-d25}, [r1]!
|
|
nengel@2
|
94 vld1.16 {d26-d27}, [r2]!
|
|
nengel@2
|
95 vmul.s16 q10, q10, q14
|
|
nengel@2
|
96 vmul.s16 q13, q13, q14
|
|
nengel@2
|
97 vmlal.s16 q0, d16, d18
|
|
nengel@2
|
98 vmlal.s16 q1, d17, d19
|
|
nengel@2
|
99 vadd.s16 q10, q8, q10
|
|
nengel@2
|
100 vadd.s16 q13, q11, q13
|
|
nengel@2
|
101 vmlal.s16 q2, d22, d24
|
|
nengel@2
|
102 vmlal.s16 q3, d23, d25
|
|
nengel@2
|
103 vst1.16 {q10}, [r12,:128]!
|
|
nengel@2
|
104 subs r3, r3, #16
|
|
nengel@2
|
105 vst1.16 {q13}, [r12,:128]!
|
|
nengel@2
|
106 bne 1b
|
|
nengel@2
|
107
|
|
nengel@2
|
108 vpadd.s32 d16, d0, d1
|
|
nengel@2
|
109 vpadd.s32 d17, d2, d3
|
|
nengel@2
|
110 vpadd.s32 d10, d4, d5
|
|
nengel@2
|
111 vpadd.s32 d11, d6, d7
|
|
nengel@2
|
112 vpadd.s32 d0, d16, d17
|
|
nengel@2
|
113 vpadd.s32 d1, d10, d11
|
|
nengel@2
|
114 vpadd.s32 d2, d0, d1
|
|
nengel@2
|
115 vpaddl.s32 d3, d2
|
|
nengel@2
|
116 vmov.32 r0, d3[0]
|
|
nengel@2
|
117 bx lr
|
|
nengel@2
|
118 endfunc
|
