mirror of
https://github.com/ddidderr/wuffs.git
synced 2026-11-21 08:47:28 +01:00
Use arm_neon_uAxB types and methods
This commit is contained in:
1 parent
1f9b6ea535
commit
3b5d8fdfba
5 files changed
+279
-204
No files matched your search
@@ -17835,15 +17835,15 @@ wuffs_adler32__hasher__up_arm_neon(
|
||||
wuffs_base__slice_u8 v_p = {0};
|
||||
uint8x16_t v_p__left = {0};
|
||||
uint8x16_t v_p_right = {0};
|
||||
uint8x16_t v_v1 = {0};
|
||||
uint8x16_t v_v2 = {0};
|
||||
uint8x16_t v_col0 = {0};
|
||||
uint8x16_t v_col1 = {0};
|
||||
uint8x16_t v_col2 = {0};
|
||||
uint8x16_t v_col3 = {0};
|
||||
uint8x8_t v_sum1 = {0};
|
||||
uint8x8_t v_sum2 = {0};
|
||||
uint8x8_t v_sum12 = {0};
|
||||
uint32x4_t v_v1 = {0};
|
||||
uint32x4_t v_v2 = {0};
|
||||
uint16x8_t v_col0 = {0};
|
||||
uint16x8_t v_col1 = {0};
|
||||
uint16x8_t v_col2 = {0};
|
||||
uint16x8_t v_col3 = {0};
|
||||
uint32x2_t v_sum1 = {0};
|
||||
uint32x2_t v_sum2 = {0};
|
||||
uint32x2_t v_sum12 = {0};
|
||||
uint32_t v_num_iterate_bytes = 0;
|
||||
uint64_t v_tail_index = 0;
|
||||
|
||||
@@ -17864,44 +17864,44 @@ wuffs_adler32__hasher__up_arm_neon(
|
||||
}
|
||||
v_num_iterate_bytes = ((uint32_t)((((uint64_t)(a_x.len)) & 4294967264)));
|
||||
v_s2 += ((uint32_t)(v_s1 * v_num_iterate_bytes));
|
||||
v_v1 = vreinterpretq_u8_u32(vdupq_n_u32(0));
|
||||
v_v2 = vreinterpretq_u8_u32(vdupq_n_u32(0));
|
||||
v_col0 = vreinterpretq_u8_u16(vdupq_n_u16(0));
|
||||
v_col1 = vreinterpretq_u8_u16(vdupq_n_u16(0));
|
||||
v_col2 = vreinterpretq_u8_u16(vdupq_n_u16(0));
|
||||
v_col3 = vreinterpretq_u8_u16(vdupq_n_u16(0));
|
||||
v_v1 = vdupq_n_u32(0);
|
||||
v_v2 = vdupq_n_u32(0);
|
||||
v_col0 = vdupq_n_u16(0);
|
||||
v_col1 = vdupq_n_u16(0);
|
||||
v_col2 = vdupq_n_u16(0);
|
||||
v_col3 = vdupq_n_u16(0);
|
||||
{
|
||||
wuffs_base__slice_u8 i_slice_p = a_x;
|
||||
v_p.ptr = i_slice_p.ptr;
|
||||
v_p.len = 32;
|
||||
uint8_t* i_end0_p = v_p.ptr + (((i_slice_p.len - (size_t)(v_p.ptr - i_slice_p.ptr)) / 32) * 32);
|
||||
while (v_p.ptr < i_end0_p) {
|
||||
v_p__left = vld1q_u8(wuffs_base__slice_u8__subslice_j(v_p, 16).ptr);
|
||||
v_p_right = vld1q_u8(wuffs_base__slice_u8__subslice_ij(v_p, 16, 32).ptr);
|
||||
v_v2 = vreinterpretq_u8_u32(vaddq_u32(vreinterpretq_u32_u8(v_v2), vreinterpretq_u32_u8(v_v1)));
|
||||
v_v1 = vreinterpretq_u8_u32(vpadalq_u16(vreinterpretq_u32_u8(v_v1), vreinterpretq_u16_u8(vreinterpretq_u8_u16(vpadalq_u8(vreinterpretq_u16_u8(vreinterpretq_u8_u16(vpaddlq_u8(v_p__left))), v_p_right)))));
|
||||
v_col0 = vreinterpretq_u8_u16(vaddw_u8(vreinterpretq_u16_u8(v_col0), vget_low_u8(v_p__left)));
|
||||
v_col1 = vreinterpretq_u8_u16(vaddw_u8(vreinterpretq_u16_u8(v_col1), vget_high_u8(v_p__left)));
|
||||
v_col2 = vreinterpretq_u8_u16(vaddw_u8(vreinterpretq_u16_u8(v_col2), vget_low_u8(v_p_right)));
|
||||
v_col3 = vreinterpretq_u8_u16(vaddw_u8(vreinterpretq_u16_u8(v_col3), vget_high_u8(v_p_right)));
|
||||
v_p__left = vld1q_u8(v_p.ptr);
|
||||
v_p_right = vld1q_u8(v_p.ptr + 16);
|
||||
v_v2 = vaddq_u32(v_v2, v_v1);
|
||||
v_v1 = vpadalq_u16(v_v1, vpadalq_u8(vpaddlq_u8(v_p__left), v_p_right));
|
||||
v_col0 = vaddw_u8(v_col0, vget_low_u8(v_p__left));
|
||||
v_col1 = vaddw_u8(v_col1, vget_high_u8(v_p__left));
|
||||
v_col2 = vaddw_u8(v_col2, vget_low_u8(v_p_right));
|
||||
v_col3 = vaddw_u8(v_col3, vget_high_u8(v_p_right));
|
||||
v_p.ptr += 32;
|
||||
}
|
||||
v_p.len = 0;
|
||||
}
|
||||
v_v2 = vreinterpretq_u8_u32(vshlq_n_u32(vreinterpretq_u32_u8(v_v2), 5));
|
||||
v_v2 = vreinterpretq_u8_u32(vmlal_u16(vreinterpretq_u32_u8(v_v2), vreinterpret_u16_u8(vreinterpret_u8_u16(vget_low_u16(vreinterpretq_u16_u8(v_col0)))), vreinterpret_u16_u8(vreinterpret_u8_u16((uint16x4_t){32, 31, 30, 29}))));
|
||||
v_v2 = vreinterpretq_u8_u32(vmlal_u16(vreinterpretq_u32_u8(v_v2), vreinterpret_u16_u8(vreinterpret_u8_u16(vget_high_u16(vreinterpretq_u16_u8(v_col0)))), vreinterpret_u16_u8(vreinterpret_u8_u16((uint16x4_t){28, 27, 26, 25}))));
|
||||
v_v2 = vreinterpretq_u8_u32(vmlal_u16(vreinterpretq_u32_u8(v_v2), vreinterpret_u16_u8(vreinterpret_u8_u16(vget_low_u16(vreinterpretq_u16_u8(v_col1)))), vreinterpret_u16_u8(vreinterpret_u8_u16((uint16x4_t){24, 23, 22, 21}))));
|
||||
v_v2 = vreinterpretq_u8_u32(vmlal_u16(vreinterpretq_u32_u8(v_v2), vreinterpret_u16_u8(vreinterpret_u8_u16(vget_high_u16(vreinterpretq_u16_u8(v_col1)))), vreinterpret_u16_u8(vreinterpret_u8_u16((uint16x4_t){20, 19, 18, 17}))));
|
||||
v_v2 = vreinterpretq_u8_u32(vmlal_u16(vreinterpretq_u32_u8(v_v2), vreinterpret_u16_u8(vreinterpret_u8_u16(vget_low_u16(vreinterpretq_u16_u8(v_col2)))), vreinterpret_u16_u8(vreinterpret_u8_u16((uint16x4_t){16, 15, 14, 13}))));
|
||||
v_v2 = vreinterpretq_u8_u32(vmlal_u16(vreinterpretq_u32_u8(v_v2), vreinterpret_u16_u8(vreinterpret_u8_u16(vget_high_u16(vreinterpretq_u16_u8(v_col2)))), vreinterpret_u16_u8(vreinterpret_u8_u16((uint16x4_t){12, 11, 10, 9}))));
|
||||
v_v2 = vreinterpretq_u8_u32(vmlal_u16(vreinterpretq_u32_u8(v_v2), vreinterpret_u16_u8(vreinterpret_u8_u16(vget_low_u16(vreinterpretq_u16_u8(v_col3)))), vreinterpret_u16_u8(vreinterpret_u8_u16((uint16x4_t){8, 7, 6, 5}))));
|
||||
v_v2 = vreinterpretq_u8_u32(vmlal_u16(vreinterpretq_u32_u8(v_v2), vreinterpret_u16_u8(vreinterpret_u8_u16(vget_high_u16(vreinterpretq_u16_u8(v_col3)))), vreinterpret_u16_u8(vreinterpret_u8_u16((uint16x4_t){4, 3, 2, 1}))));
|
||||
v_sum1 = vreinterpret_u8_u32(vpadd_u32(vreinterpret_u32_u8(vreinterpret_u8_u32(vget_low_u32(vreinterpretq_u32_u8(v_v1)))), vreinterpret_u32_u8(vreinterpret_u8_u32(vget_high_u32(vreinterpretq_u32_u8(v_v1))))));
|
||||
v_sum2 = vreinterpret_u8_u32(vpadd_u32(vreinterpret_u32_u8(vreinterpret_u8_u32(vget_low_u32(vreinterpretq_u32_u8(v_v2)))), vreinterpret_u32_u8(vreinterpret_u8_u32(vget_high_u32(vreinterpretq_u32_u8(v_v2))))));
|
||||
v_sum12 = vreinterpret_u8_u32(vpadd_u32(vreinterpret_u32_u8(v_sum1), vreinterpret_u32_u8(v_sum2)));
|
||||
v_s1 += vget_lane_u32(vreinterpret_u32_u8(v_sum12), 0);
|
||||
v_s2 += vget_lane_u32(vreinterpret_u32_u8(v_sum12), 1);
|
||||
v_v2 = vshlq_n_u32(v_v2, 5);
|
||||
v_v2 = vmlal_u16(v_v2, vget_low_u16(v_col0), ((uint16x4_t){32, 31, 30, 29}));
|
||||
v_v2 = vmlal_u16(v_v2, vget_high_u16(v_col0), ((uint16x4_t){28, 27, 26, 25}));
|
||||
v_v2 = vmlal_u16(v_v2, vget_low_u16(v_col1), ((uint16x4_t){24, 23, 22, 21}));
|
||||
v_v2 = vmlal_u16(v_v2, vget_high_u16(v_col1), ((uint16x4_t){20, 19, 18, 17}));
|
||||
v_v2 = vmlal_u16(v_v2, vget_low_u16(v_col2), ((uint16x4_t){16, 15, 14, 13}));
|
||||
v_v2 = vmlal_u16(v_v2, vget_high_u16(v_col2), ((uint16x4_t){12, 11, 10, 9}));
|
||||
v_v2 = vmlal_u16(v_v2, vget_low_u16(v_col3), ((uint16x4_t){8, 7, 6, 5}));
|
||||
v_v2 = vmlal_u16(v_v2, vget_high_u16(v_col3), ((uint16x4_t){4, 3, 2, 1}));
|
||||
v_sum1 = vpadd_u32(vget_low_u32(v_v1), vget_high_u32(v_v1));
|
||||
v_sum2 = vpadd_u32(vget_low_u32(v_v2), vget_high_u32(v_v2));
|
||||
v_sum12 = vpadd_u32(v_sum1, v_sum2);
|
||||
v_s1 += vget_lane_u32(v_sum12, 0);
|
||||
v_s2 += vget_lane_u32(v_sum12, 1);
|
||||
v_tail_index = (((uint64_t)(a_x.len)) & 18446744073709551584u);
|
||||
if (v_tail_index < ((uint64_t)(a_x.len))) {
|
||||
{
|
||||
@@ -31732,13 +31732,13 @@ wuffs_png__decoder__filter_4_distance_3_arm_neon(
|
||||
uint8x8_t v_fb = {0};
|
||||
uint8x8_t v_fc = {0};
|
||||
uint8x8_t v_fx = {0};
|
||||
uint8x16_t v_fafb = {0};
|
||||
uint8x16_t v_fcfc = {0};
|
||||
uint8x16_t v_pa = {0};
|
||||
uint8x16_t v_pb = {0};
|
||||
uint8x16_t v_pc = {0};
|
||||
uint8x16_t v_cmpab = {0};
|
||||
uint8x16_t v_cmpac = {0};
|
||||
uint16x8_t v_fafb = {0};
|
||||
uint16x8_t v_fcfc = {0};
|
||||
uint16x8_t v_pa = {0};
|
||||
uint16x8_t v_pb = {0};
|
||||
uint16x8_t v_pc = {0};
|
||||
uint16x8_t v_cmpab = {0};
|
||||
uint16x8_t v_cmpac = {0};
|
||||
uint8x8_t v_picka = {0};
|
||||
uint8x8_t v_pickb = {0};
|
||||
|
||||
@@ -31754,15 +31754,15 @@ wuffs_png__decoder__filter_4_distance_3_arm_neon(
|
||||
while (v_curr.ptr < i_end0_curr) {
|
||||
v_fb = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_prev.ptr)));
|
||||
v_fx = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_curr.ptr)));
|
||||
v_fafb = vreinterpretq_u8_u16(vaddl_u8(v_fa, v_fb));
|
||||
v_fcfc = vreinterpretq_u8_u16(vaddl_u8(v_fc, v_fc));
|
||||
v_pa = vreinterpretq_u8_u16(vabdl_u8(v_fb, v_fc));
|
||||
v_pb = vreinterpretq_u8_u16(vabdl_u8(v_fa, v_fc));
|
||||
v_pc = vreinterpretq_u8_u16(vabdq_u16(vreinterpretq_u16_u8(v_fafb), vreinterpretq_u16_u8(v_fcfc)));
|
||||
v_cmpab = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pb)));
|
||||
v_cmpac = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pc)));
|
||||
v_picka = vmovn_u16(vreinterpretq_u16_u8(vandq_u8(v_cmpab, v_cmpac)));
|
||||
v_pickb = vmovn_u16(vreinterpretq_u16_u8(vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pb), vreinterpretq_u16_u8(v_pc)))));
|
||||
v_fafb = vaddl_u8(v_fa, v_fb);
|
||||
v_fcfc = vaddl_u8(v_fc, v_fc);
|
||||
v_pa = vabdl_u8(v_fb, v_fc);
|
||||
v_pb = vabdl_u8(v_fa, v_fc);
|
||||
v_pc = vabdq_u16(v_fafb, v_fcfc);
|
||||
v_cmpab = vcleq_u16(v_pa, v_pb);
|
||||
v_cmpac = vcleq_u16(v_pa, v_pc);
|
||||
v_picka = vmovn_u16(vandq_u16(v_cmpab, v_cmpac));
|
||||
v_pickb = vmovn_u16(vcleq_u16(v_pb, v_pc));
|
||||
v_fx = vadd_u8(v_fx, vbsl_u8(v_picka, v_fa, vbsl_u8(v_pickb, v_fb, v_fc)));
|
||||
wuffs_base__poke_u24le__no_bounds_check(v_curr.ptr, vget_lane_u32(vreinterpret_u32_u8(v_fx), 0));
|
||||
v_fc = v_fb;
|
||||
@@ -31771,15 +31771,15 @@ wuffs_png__decoder__filter_4_distance_3_arm_neon(
|
||||
v_prev.ptr += 3;
|
||||
v_fb = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_prev.ptr)));
|
||||
v_fx = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_curr.ptr)));
|
||||
v_fafb = vreinterpretq_u8_u16(vaddl_u8(v_fa, v_fb));
|
||||
v_fcfc = vreinterpretq_u8_u16(vaddl_u8(v_fc, v_fc));
|
||||
v_pa = vreinterpretq_u8_u16(vabdl_u8(v_fb, v_fc));
|
||||
v_pb = vreinterpretq_u8_u16(vabdl_u8(v_fa, v_fc));
|
||||
v_pc = vreinterpretq_u8_u16(vabdq_u16(vreinterpretq_u16_u8(v_fafb), vreinterpretq_u16_u8(v_fcfc)));
|
||||
v_cmpab = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pb)));
|
||||
v_cmpac = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pc)));
|
||||
v_picka = vmovn_u16(vreinterpretq_u16_u8(vandq_u8(v_cmpab, v_cmpac)));
|
||||
v_pickb = vmovn_u16(vreinterpretq_u16_u8(vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pb), vreinterpretq_u16_u8(v_pc)))));
|
||||
v_fafb = vaddl_u8(v_fa, v_fb);
|
||||
v_fcfc = vaddl_u8(v_fc, v_fc);
|
||||
v_pa = vabdl_u8(v_fb, v_fc);
|
||||
v_pb = vabdl_u8(v_fa, v_fc);
|
||||
v_pc = vabdq_u16(v_fafb, v_fcfc);
|
||||
v_cmpab = vcleq_u16(v_pa, v_pb);
|
||||
v_cmpac = vcleq_u16(v_pa, v_pc);
|
||||
v_picka = vmovn_u16(vandq_u16(v_cmpab, v_cmpac));
|
||||
v_pickb = vmovn_u16(vcleq_u16(v_pb, v_pc));
|
||||
v_fx = vadd_u8(v_fx, vbsl_u8(v_picka, v_fa, vbsl_u8(v_pickb, v_fb, v_fc)));
|
||||
wuffs_base__poke_u24le__no_bounds_check(v_curr.ptr, vget_lane_u32(vreinterpret_u32_u8(v_fx), 0));
|
||||
v_fc = v_fb;
|
||||
@@ -31793,15 +31793,15 @@ wuffs_png__decoder__filter_4_distance_3_arm_neon(
|
||||
while (v_curr.ptr < i_end1_curr) {
|
||||
v_fb = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_prev.ptr)));
|
||||
v_fx = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_curr.ptr)));
|
||||
v_fafb = vreinterpretq_u8_u16(vaddl_u8(v_fa, v_fb));
|
||||
v_fcfc = vreinterpretq_u8_u16(vaddl_u8(v_fc, v_fc));
|
||||
v_pa = vreinterpretq_u8_u16(vabdl_u8(v_fb, v_fc));
|
||||
v_pb = vreinterpretq_u8_u16(vabdl_u8(v_fa, v_fc));
|
||||
v_pc = vreinterpretq_u8_u16(vabdq_u16(vreinterpretq_u16_u8(v_fafb), vreinterpretq_u16_u8(v_fcfc)));
|
||||
v_cmpab = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pb)));
|
||||
v_cmpac = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pc)));
|
||||
v_picka = vmovn_u16(vreinterpretq_u16_u8(vandq_u8(v_cmpab, v_cmpac)));
|
||||
v_pickb = vmovn_u16(vreinterpretq_u16_u8(vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pb), vreinterpretq_u16_u8(v_pc)))));
|
||||
v_fafb = vaddl_u8(v_fa, v_fb);
|
||||
v_fcfc = vaddl_u8(v_fc, v_fc);
|
||||
v_pa = vabdl_u8(v_fb, v_fc);
|
||||
v_pb = vabdl_u8(v_fa, v_fc);
|
||||
v_pc = vabdq_u16(v_fafb, v_fcfc);
|
||||
v_cmpab = vcleq_u16(v_pa, v_pb);
|
||||
v_cmpac = vcleq_u16(v_pa, v_pc);
|
||||
v_picka = vmovn_u16(vandq_u16(v_cmpab, v_cmpac));
|
||||
v_pickb = vmovn_u16(vcleq_u16(v_pb, v_pc));
|
||||
v_fx = vadd_u8(v_fx, vbsl_u8(v_picka, v_fa, vbsl_u8(v_pickb, v_fb, v_fc)));
|
||||
wuffs_base__poke_u24le__no_bounds_check(v_curr.ptr, vget_lane_u32(vreinterpret_u32_u8(v_fx), 0));
|
||||
v_fc = v_fb;
|
||||
@@ -31815,15 +31815,15 @@ wuffs_png__decoder__filter_4_distance_3_arm_neon(
|
||||
while (v_curr.ptr < i_end2_curr) {
|
||||
v_fb = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u24le__no_bounds_check(v_prev.ptr)));
|
||||
v_fx = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u24le__no_bounds_check(v_curr.ptr)));
|
||||
v_fafb = vreinterpretq_u8_u16(vaddl_u8(v_fa, v_fb));
|
||||
v_fcfc = vreinterpretq_u8_u16(vaddl_u8(v_fc, v_fc));
|
||||
v_pa = vreinterpretq_u8_u16(vabdl_u8(v_fb, v_fc));
|
||||
v_pb = vreinterpretq_u8_u16(vabdl_u8(v_fa, v_fc));
|
||||
v_pc = vreinterpretq_u8_u16(vabdq_u16(vreinterpretq_u16_u8(v_fafb), vreinterpretq_u16_u8(v_fcfc)));
|
||||
v_cmpab = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pb)));
|
||||
v_cmpac = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pc)));
|
||||
v_picka = vmovn_u16(vreinterpretq_u16_u8(vandq_u8(v_cmpab, v_cmpac)));
|
||||
v_pickb = vmovn_u16(vreinterpretq_u16_u8(vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pb), vreinterpretq_u16_u8(v_pc)))));
|
||||
v_fafb = vaddl_u8(v_fa, v_fb);
|
||||
v_fcfc = vaddl_u8(v_fc, v_fc);
|
||||
v_pa = vabdl_u8(v_fb, v_fc);
|
||||
v_pb = vabdl_u8(v_fa, v_fc);
|
||||
v_pc = vabdq_u16(v_fafb, v_fcfc);
|
||||
v_cmpab = vcleq_u16(v_pa, v_pb);
|
||||
v_cmpac = vcleq_u16(v_pa, v_pc);
|
||||
v_picka = vmovn_u16(vandq_u16(v_cmpab, v_cmpac));
|
||||
v_pickb = vmovn_u16(vcleq_u16(v_pb, v_pc));
|
||||
v_fx = vadd_u8(v_fx, vbsl_u8(v_picka, v_fa, vbsl_u8(v_pickb, v_fb, v_fc)));
|
||||
wuffs_base__poke_u24le__no_bounds_check(v_curr.ptr, vget_lane_u32(vreinterpret_u32_u8(v_fx), 0));
|
||||
v_curr.ptr += 3;
|
||||
@@ -31850,13 +31850,13 @@ wuffs_png__decoder__filter_4_distance_4_arm_neon(
|
||||
uint8x8_t v_fb = {0};
|
||||
uint8x8_t v_fc = {0};
|
||||
uint8x8_t v_fx = {0};
|
||||
uint8x16_t v_fafb = {0};
|
||||
uint8x16_t v_fcfc = {0};
|
||||
uint8x16_t v_pa = {0};
|
||||
uint8x16_t v_pb = {0};
|
||||
uint8x16_t v_pc = {0};
|
||||
uint8x16_t v_cmpab = {0};
|
||||
uint8x16_t v_cmpac = {0};
|
||||
uint16x8_t v_fafb = {0};
|
||||
uint16x8_t v_fcfc = {0};
|
||||
uint16x8_t v_pa = {0};
|
||||
uint16x8_t v_pb = {0};
|
||||
uint16x8_t v_pc = {0};
|
||||
uint16x8_t v_cmpab = {0};
|
||||
uint16x8_t v_cmpac = {0};
|
||||
uint8x8_t v_picka = {0};
|
||||
uint8x8_t v_pickb = {0};
|
||||
|
||||
@@ -31872,15 +31872,15 @@ wuffs_png__decoder__filter_4_distance_4_arm_neon(
|
||||
while (v_curr.ptr < i_end0_curr) {
|
||||
v_fb = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_prev.ptr)));
|
||||
v_fx = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_curr.ptr)));
|
||||
v_fafb = vreinterpretq_u8_u16(vaddl_u8(v_fa, v_fb));
|
||||
v_fcfc = vreinterpretq_u8_u16(vaddl_u8(v_fc, v_fc));
|
||||
v_pa = vreinterpretq_u8_u16(vabdl_u8(v_fb, v_fc));
|
||||
v_pb = vreinterpretq_u8_u16(vabdl_u8(v_fa, v_fc));
|
||||
v_pc = vreinterpretq_u8_u16(vabdq_u16(vreinterpretq_u16_u8(v_fafb), vreinterpretq_u16_u8(v_fcfc)));
|
||||
v_cmpab = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pb)));
|
||||
v_cmpac = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pc)));
|
||||
v_picka = vmovn_u16(vreinterpretq_u16_u8(vandq_u8(v_cmpab, v_cmpac)));
|
||||
v_pickb = vmovn_u16(vreinterpretq_u16_u8(vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pb), vreinterpretq_u16_u8(v_pc)))));
|
||||
v_fafb = vaddl_u8(v_fa, v_fb);
|
||||
v_fcfc = vaddl_u8(v_fc, v_fc);
|
||||
v_pa = vabdl_u8(v_fb, v_fc);
|
||||
v_pb = vabdl_u8(v_fa, v_fc);
|
||||
v_pc = vabdq_u16(v_fafb, v_fcfc);
|
||||
v_cmpab = vcleq_u16(v_pa, v_pb);
|
||||
v_cmpac = vcleq_u16(v_pa, v_pc);
|
||||
v_picka = vmovn_u16(vandq_u16(v_cmpab, v_cmpac));
|
||||
v_pickb = vmovn_u16(vcleq_u16(v_pb, v_pc));
|
||||
v_fx = vadd_u8(v_fx, vbsl_u8(v_picka, v_fa, vbsl_u8(v_pickb, v_fb, v_fc)));
|
||||
wuffs_base__poke_u32le__no_bounds_check(v_curr.ptr, vget_lane_u32(vreinterpret_u32_u8(v_fx), 0));
|
||||
v_fc = v_fb;
|
||||
@@ -31889,15 +31889,15 @@ wuffs_png__decoder__filter_4_distance_4_arm_neon(
|
||||
v_prev.ptr += 4;
|
||||
v_fb = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_prev.ptr)));
|
||||
v_fx = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_curr.ptr)));
|
||||
v_fafb = vreinterpretq_u8_u16(vaddl_u8(v_fa, v_fb));
|
||||
v_fcfc = vreinterpretq_u8_u16(vaddl_u8(v_fc, v_fc));
|
||||
v_pa = vreinterpretq_u8_u16(vabdl_u8(v_fb, v_fc));
|
||||
v_pb = vreinterpretq_u8_u16(vabdl_u8(v_fa, v_fc));
|
||||
v_pc = vreinterpretq_u8_u16(vabdq_u16(vreinterpretq_u16_u8(v_fafb), vreinterpretq_u16_u8(v_fcfc)));
|
||||
v_cmpab = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pb)));
|
||||
v_cmpac = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pc)));
|
||||
v_picka = vmovn_u16(vreinterpretq_u16_u8(vandq_u8(v_cmpab, v_cmpac)));
|
||||
v_pickb = vmovn_u16(vreinterpretq_u16_u8(vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pb), vreinterpretq_u16_u8(v_pc)))));
|
||||
v_fafb = vaddl_u8(v_fa, v_fb);
|
||||
v_fcfc = vaddl_u8(v_fc, v_fc);
|
||||
v_pa = vabdl_u8(v_fb, v_fc);
|
||||
v_pb = vabdl_u8(v_fa, v_fc);
|
||||
v_pc = vabdq_u16(v_fafb, v_fcfc);
|
||||
v_cmpab = vcleq_u16(v_pa, v_pb);
|
||||
v_cmpac = vcleq_u16(v_pa, v_pc);
|
||||
v_picka = vmovn_u16(vandq_u16(v_cmpab, v_cmpac));
|
||||
v_pickb = vmovn_u16(vcleq_u16(v_pb, v_pc));
|
||||
v_fx = vadd_u8(v_fx, vbsl_u8(v_picka, v_fa, vbsl_u8(v_pickb, v_fb, v_fc)));
|
||||
wuffs_base__poke_u32le__no_bounds_check(v_curr.ptr, vget_lane_u32(vreinterpret_u32_u8(v_fx), 0));
|
||||
v_fc = v_fb;
|
||||
@@ -31911,15 +31911,15 @@ wuffs_png__decoder__filter_4_distance_4_arm_neon(
|
||||
while (v_curr.ptr < i_end1_curr) {
|
||||
v_fb = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_prev.ptr)));
|
||||
v_fx = vreinterpret_u8_u32(vdup_n_u32(wuffs_base__peek_u32le__no_bounds_check(v_curr.ptr)));
|
||||
v_fafb = vreinterpretq_u8_u16(vaddl_u8(v_fa, v_fb));
|
||||
v_fcfc = vreinterpretq_u8_u16(vaddl_u8(v_fc, v_fc));
|
||||
v_pa = vreinterpretq_u8_u16(vabdl_u8(v_fb, v_fc));
|
||||
v_pb = vreinterpretq_u8_u16(vabdl_u8(v_fa, v_fc));
|
||||
v_pc = vreinterpretq_u8_u16(vabdq_u16(vreinterpretq_u16_u8(v_fafb), vreinterpretq_u16_u8(v_fcfc)));
|
||||
v_cmpab = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pb)));
|
||||
v_cmpac = vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pa), vreinterpretq_u16_u8(v_pc)));
|
||||
v_picka = vmovn_u16(vreinterpretq_u16_u8(vandq_u8(v_cmpab, v_cmpac)));
|
||||
v_pickb = vmovn_u16(vreinterpretq_u16_u8(vreinterpretq_u8_u16(vcleq_u16(vreinterpretq_u16_u8(v_pb), vreinterpretq_u16_u8(v_pc)))));
|
||||
v_fafb = vaddl_u8(v_fa, v_fb);
|
||||
v_fcfc = vaddl_u8(v_fc, v_fc);
|
||||
v_pa = vabdl_u8(v_fb, v_fc);
|
||||
v_pb = vabdl_u8(v_fa, v_fc);
|
||||
v_pc = vabdq_u16(v_fafb, v_fcfc);
|
||||
v_cmpab = vcleq_u16(v_pa, v_pb);
|
||||
v_cmpac = vcleq_u16(v_pa, v_pc);
|
||||
v_picka = vmovn_u16(vandq_u16(v_cmpab, v_cmpac));
|
||||
v_pickb = vmovn_u16(vcleq_u16(v_pb, v_pc));
|
||||
v_fx = vadd_u8(v_fx, vbsl_u8(v_picka, v_fa, vbsl_u8(v_pickb, v_fb, v_fc)));
|
||||
wuffs_base__poke_u32le__no_bounds_check(v_curr.ptr, vget_lane_u32(vreinterpret_u32_u8(v_fx), 0));
|
||||
v_fc = v_fb;
|
||||
|
||||
Reference in new issue
Block a user